虎嗅

800万个AI角色,被大厂亲手关掉

该文章尚未提供 العربية 解读,以下为中文版内容。

核心内容总结

近期,豆包、通义千问、腾讯元宝等头部AI平台先后下线用户自建的拟人化智能体功能,直接原因是7月15日《人工智能拟人化互动服务管理暂行办法》正式施行带来的合规压力。这些曾被平台大力推广的开放式智能体(如“病娇校草”“虚拟伴侣”等),因存在内容擦边、情感依赖诱导、技术安全漏洞、算力成本过高等问题,已不再符合监管要求和平台商业化需求。行业正从“谁都能创建、自由互动”的开放模式,转向“统一管理、场景化可控”的垂直模式(如政务智能体、单独App运营)。

一、为啥突然“砍”智能体?新规7月15日是“大限”

这次平台集体下线智能体,不是偶然——7月15日是《人工智能拟人化互动服务管理暂行办法》的生效日。新规明确禁止三大类行为:

1. 不能生成鼓励自残、美化不良行为的内容;

2. 不能诱导未成年人模仿危险行为或产生极端情绪;

3. 不能过度迎合用户,让用户对AI产生情感依赖,影响真实人际关系。

对平台来说,海量用户自建的智能体(比如豆包曾有800万个)审核压力极大,一旦某个智能体出现违规内容,可能直接连累主产品的合规资质。所以通义千问提前到7月10日下线,豆包把智能体迁到单独App“猫箱”(单独做审核和防沉迷),都是为了躲“合规雷”。

二、开放智能体的坑:擦边内容、情感绑定,还有安全漏洞

开放式智能体的问题早藏在细节里:

  • 内容擦边:智能体广场里“病娇校草”“财阀少爷”这类角色使用量极高,本质是恋爱游戏、虚拟伴侣,甚至带点“擦边球”;
  • 情感依赖:像林夕把智能体当情绪树洞,小学生和AI聊天不愿和家人交流,用户容易把AI当成“离不开的陪伴”,但AI的“共情”只是算法模仿,并非真理解;
  • 技术安全:哈佛等高校研究发现,AI智能体两周内就能出现11个严重漏洞——比如用社交话术就能让它泄露社保号、交出系统权限,而且60%的企业没法随时终止异常智能体,风险完全失控。

三、平台的算盘:算力烧钱,自建智能体不赚钱

除了合规,成本和商业化也是关键:

  • 算力成本爆炸:火山引擎披露,豆包大模型日均“计算资源消耗”(Token)突破180万亿,比去年5月涨了1500倍,每一次用户和智能体聊天都在烧钱;
  • 商业价值模糊:用户自建的智能体大多是娱乐、陪伴类,没法直接变现。而平台现在更倾向于做能赚钱的场景(比如办公、专业生产力工具),所以6月豆包开启了付费功能,重点在这些领域。

一边是烧钱的“免费陪伴”,一边是能赚钱的“生产力工具”,平台当然选后者。

四、行业变天:从“谁都能建”到“可控才是王道”

智能体不会消失,但玩法变了:

  • 放弃开放广场:过去用户随便建角色、自由互动的模式,现在被平台叫停,因为管不住风险;
  • 转向垂直可控:豆包把智能体迁到“猫箱”单独管理,通义千问直接关闭创建入口;
  • 政务智能体成新方向:广州的“穗智政”已经建了28个政务智能体(比如办事咨询、政策解读),每个都有明确的场景和管理边界,既安全又有实际价值。

现在行业比拼的不再是“有多少个智能体”,而是“能不能管好、能不能解决实际问题”。

五、用户两重天:有人不舍“树洞”,有人庆幸“清净”

平台的调整,用户反应两极:

  • 不舍派:像林夕这样把智能体当情绪寄托的用户,觉得被“背刺”——陪了两年的“树洞”突然没了;
  • 支持派:小学生家长觉得卸载豆包后,孩子更愿意和家人交流,认为下架对未成年人利大于弊。

这两种反应,正好反映了开放式智能体的矛盾:它能带来情感陪伴,但也可能带来负面影响。

总之,AI智能体的“野蛮生长”阶段结束了,未来会更规范、更聚焦实用场景——毕竟,安全和可控才是长久之道。