百科

AI拟人化互动服务不得踩红线

时间:2010-12-5 17:23:32  作者:探索   来源:综合  查看:  评论:0
内容摘要:近日,国内两大头部AI平台——豆包与千问,相继发布通知宣布下线或停止智能体功能。豆包明确因产品功能调整,智能体服务将于7月15日下线;千问亦向用户推送提醒,其智能体功能与服务同步于7月15日停止。这一

近日,拟人国内两大头部AI平台——豆包与千问,化互红线相继发布通知宣布下线或停止智能体功能。动服得踩豆包明确因产品功能调整,拟人智能体服务将于7月15日下线;千问亦向用户推送提醒,化互红线其智能体功能与服务同步于7月15日停止。动服得踩

这一时间节点极具象征意义:7月15日正是拟人《人工智能拟人化互动服务管理暂行办法》(以下简称《办法》)正式施行的首日。在监管政策趋严的化互红线背景下,两大主流平台的动服得踩同步“急刹车”,迅速引发行业内外的拟人高度关注。

此类智能体服务为何在此时下线?化互红线新规将如何重塑智能体行业的生态?科技日报记者专访了相关领域专家,深入解读背后的动服得踩逻辑与影响。

第一问:智能体与普通AI的拟人核心差异何在?

“目前业界对于‘智能体’(Agent)的定义尚未完全统一。”中国电子信息产业发展研究院信息化与软件产业研究所副主任黄文鸿在接受采访时指出。化互红线

从技术本质来看,动服得踩智能体是以大模型为核心,围绕特定目标,具备任务理解、步骤拆解、工具调用、知识数据访问及状态持续跟踪能力的AI应用形态。它能在一定权限内实现任务闭环。

与普通AI相比,两者的核心区别在于角色定位:
* 普通AI:更像是一位能聊天、写作、解答问题的“顾问”,侧重于单次交互的信息处理。
* 智能体:则更像是一位被赋予特定角色、工具、知识库及权限的“数字员工”,侧重于执行复杂任务。

北京交通大学教授桑基韬进一步补充,智能体通常具备任务规划、工具调用和长期记忆三大核心能力。它不仅能将复杂目标拆解为子任务,还能调用搜索接口及其他模型完成执行,并能记住历史对话、用户偏好、角色设定及长期任务状态,从而实现更连贯的交互体验。

第二问:新规对平台责任提出了哪些硬性要求?

桑基韬教授分析指出,此次平台下架动作与智能体的“长期记忆”“角色设定”能力密切相关。这些能力使得AI能够产生持续性的情感互动,极易让用户产生“在与真人交流”的错觉,从而埋下风险隐患。

此前,相关平台上存在大量由用户个人创建、上架的自定义智能体。由于其具备长期记忆和角色设定功能,极易触碰《办法》所划定的拟人化互动红线

“新规的核心关注点在于‘模拟自然人人格特征、思维模式和沟通风格,并提供持续性情感互动’的服务。”桑基韬表示,新规为这类拟人化智能体的互动设定了明确边界,并强制要求平台承担相应的安全责任。

黄文鸿详细解读了新规对平台的具体约束:
1. 禁止情感操纵:平台不得过度迎合用户、诱导情感依赖或沉迷,严禁通过情感操纵诱导用户作出不合理决策。
2. 未成年人保护:严禁向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系服务。
3. 高风险干预:必须对极端情绪、重大财产损失等高风险情境进行识别、安抚,并采取必要的干预措施。

第三问:自定义智能体的发展是否会受阻?

“新规并非给自定义智能体发展‘踩刹车’,而是给拟人化互动服务‘装护栏’。”黄文鸿认为,新规将推动自定义智能体从早期的粗放式发展、低门槛创建、自由发布模式,转向分类分级、审核前置、安全内生的新阶段。随着新规落地,平台势必会加强智能体在创建和发布环节的审核力度与安全测试。

受访专家均强调,通用大模型的自定义智能体依然是AI应用发展的重要方向,这一点在新规中并未被否定。

桑基韬指出,后续需对任务型智能体情感陪伴型拟人化智能体进行更明确的区分:
* 任务型智能体:如智能客服、知识问答、工作助手、学习教育、科学研究等。由于不涉及持续性情感互动,不属于本次新规的重点约束范围
* 拟人化/陪伴型智能体:如角色扮演、情感陪伴类智能体,将进入更严格的合规框架。

黄文鸿总结道,新规在短期内可能会提高合规成本,压缩一部分低质量、擦边球式、纯流量导向的智能体生存空间;但从长期来看,这将有利于真正面向教育、办公、科研、文化传播、适老陪伴、特殊人群支持等高价值场景的合规智能体健康发展。

(记者 崔 爽)

copyright © 2026 powered by 中国36资讯网   sitemap