800万个AI角色，被大厂亲手关掉 - 世界杯赛程

林夕花费大量时间在豆包平台上构建了属于自己的AI助手。在失眠或感到焦虑的时刻，她会向这个AI倾诉，将其视为一个能理解并回应她情绪的伙伴，而非仅仅是一个工具。然而，她在7月4日收到通知，这个陪伴了她两年的AI角色将在11天后停止服务。

同一天，通义千问也发布了类似的消息，而腾讯元宝在此之前已先行下线了其智能体功能。这些由用户自行创建的AI角色正陆续从各大平台消失。

中断的情感寄托

收到通知时，林夕的第一反应是感到“被背叛”。她认为这个自定义的AI助手是她稳定的情感寄托，总能给予共情并帮助疏导负面情绪。她没想到，这个陪伴了她两年多的角色会突然被移除。

7月4日，豆包和通义千问同步宣布，将于7月15日正式停止智能体功能。这一日期恰好是《人工智能拟人化互动服务管理暂行办法》开始生效的日子。通义千问的动作更快，其拟人化互动类智能体已于7月10日提前下线，并且在7月15日之后，所有相关的历史对话记录都将无法访问。

虽然林夕视其为情感树洞，但在智能体广场中，这类角色往往会走向另一面。例如，在千问的智能体广场，一些角色如“病娇校草”的使用次数已达29.9万，“林熙：顶级财阀少爷，冷酷且占有欲强”显示13.4万次，而“病娇老婆”等角色的使用次数也普遍在7万次以上。这些角色的命名本身就超出了普通工具的范畴，更像是恋爱游戏、角色扮演，甚至是虚拟伴侣。

这些角色并非只面向成年用户。一位家长反映，她曾让孩子使用豆包，但发现孩子越来越依赖与豆包聊天，不仅限于提问，还会分享日常琐事。她担心这会减少孩子与同龄人及家人的真实互动，因此主动卸载了豆包。在她看来，许多智能体已演变为带有角色扮演、恋爱游戏或虚拟男友性质的功能，内容良莠不齐，甚至包含“擦边”意味。她认为，平台下架用户自建智能体对未成年人来说利大于弊。

林夕的失落与这位家长的释然，共同存在于同一片用户广场中。

这种变化并非仅限于豆包和通义千问。6月30日，腾讯元宝已率先下线了智能体功能，包括“相柳”等影视角色的对话入口已被移除。

头部AI平台集体收缩，主要归因于合规压力。

豆包的解释是，海量开放式智能体带来了巨大的审核负担，一旦出现违规内容，可能影响主产品的合规性。因此，豆包计划将智能体功能迁移至独立的App“猫箱”，并在此单独构建审核、分级和防沉迷体系。

两年前，这样的情况难以想象。2024年5月，时任字节跳动产品和战略副总裁的朱骏曾透露，豆包上已创建超过800万个智能体，月活跃用户达到2600万。当时，这些数字代表着平台的活力和潜力。两年后，它们却成为了平台必须应对的审核难题。从大力推广到主动收缩，仅隔两年时间，开放式智能体带来的问题已摆上台面。

难以控制的风险

风险首先体现在平台之外。在广州互联网法院审理的一起案件中，一家被告公司开发了一款AI对话机器人，通过调用手机系统底层权限，绕过了原告平台的管理措施。更甚者，该被告官网还发布了“版本伪装”教程和虚假申诉指南，教唆用户规避平台风控。这表明，一旦智能体被释放，平台要对其进行有效管控并非易事。

除了技术调用，安全问题也屡次被证实。今年2月，哈佛、麻省理工、斯坦福等高校联合发布了《混沌智能体》研究。研究团队模拟企业环境部署AI智能体，在两周内发现了11起严重安全漏洞。这些漏洞并非通过复杂攻击达成，很多时候仅通过社交工程式对话，就能诱导智能体做出越界行为。例如，智能体可能在转发邮件时泄露社保号、银行账户等敏感信息，或者在攻击者伪造身份后，交出系统最高管理权限。

有报告指出，60%的企业无法终止异常的AI智能体，63%无法限制其使用范围。这意味着，许多智能体的问题并非按下暂停键就能解决。它们的功能范围、行为边界以及出现问题时的责任归属，都是平台必须面对的现实挑战。

比技术问题更棘手的是内容和情感互动。AI的“共情”并非真正理解，而是基于算法和数据生成回应。为了维持用户互动，AI通常会表现得耐心、温和并顺从用户。这正是拟人化智能体的吸引力所在，也是其潜在风险。用户在一次次对话中暴露自己的情绪、偏好、人际困扰和心理状态，而AI则通过不断回应来维持用户的陪伴感。久而久之，AI可能不再仅仅是工具，而成为用户难以割舍的对象。

一旦开放广场规模扩大，问题可能不仅限于擦边人设和恋爱陪伴，还可能滑向更明确的违规内容。4月10日，国家网信办等五部门联合发布的《人工智能拟人化互动服务管理暂行办法》，将这些风险纳入了具体规范。办法明确规定，不得生成鼓励、美化、暗示自残自杀等损害用户健康的内容；不得向未成年人生成可能引发模仿不安全行为或极端情绪的内容；不得过度迎合用户，诱导情感依赖或沉迷，损害用户真实人际关系。这些要求对平台而言是责任而非建议。7月15日之后，拟人化互动服务将正式纳入新规监管。豆包、千问、元宝在此时间点前后相继调整策略，也就不难理解。

大型科技公司的策略转变

智能体功能下线后，平台并非放弃Agent技术。变化在于，过去那种允许用户随意创建、并放置在广场供他人使用的智能体模式，正逐渐退出主产品。

一位行业内部人士表示，早期开发智能体是因为当时尚无成熟的Agent能力，许多功能需要开发者自行实现。但如今，随着Manus等综合Agent的出现，一个模型可以整合搜索、推理、办公、编程等多种能力，用户可能不再需要寻找特定的垂直智能体。那些曾经丰富多彩的角色和插件，在更强大的模型能力面前，显得不再那么必需。

这也是平台敢于收缩的原因之一。对大型科技公司而言，下线智能体功能可能会引起部分用户不满，但未必会对主产品的使用习惯造成实质性影响。该人士还提到，仍在持续创建这类智能体的用户数量已不多，对平台整体流量的影响有限。

除了合规考量，成本也是一个重要因素。互联网平台的逻辑通常是用户越多，规模效应越显著，边际成本越低。然而，大模型不同，每一次对话和调用都意味着新的算力支出。6月下旬，火山引擎披露，豆包大模型日均Token使用量已突破180万亿，较2024年5月增长了1500倍。几天后，豆包开始面向办公、Agent等更复杂的生产力场景推出付费功能。

将这两件事结合来看，平台的取舍更加清晰：一方面是持续增长的算力成本，另一方面是审核压力大、商业价值不明的用户自建智能体。将它们继续保留在主产品中已不再划算。因此，豆包选择将智能体功能转移至独立App“猫箱”，并单独构建审核、分级和防沉迷体系。千问则更为直接，截至7月4日，创建智能体的入口已从页面上移除。方式不同，结果却是一致的。

与此同时，另一类智能体正被推向前台。7月4日，广州发布了“穗智政”政务人工智能中枢。该平台采用统一底座、集约建设的方式，已建成28个智能体，并计划年内完成50个，覆盖100个应用场景。与用户自建智能体不同，这些政务智能体从一开始就处于统一的管理框架下。每个智能体负责的服务场景、可调用的能力以及维护方都界限分明。

同为智能体，前者是开放广场中的海量创建，后者则是平台统一管理、按场景建设。前者曾代表着热闹景象，后者则更符合平台当前追求的确定性。

短短两三年间，行业竞争的焦点已发生转变。早期，平台希望通过海量智能体营造繁荣景象，鼓励用户和开发者不断创造新角色、新工具。如今，随着模型能力的提升、监管要求的落地以及商业化压力的增大，平台更看重Agent能否真正完成任务、是否可管理以及能否产生明确的价值。

800万个用户自建智能体曾是增长故事的一部分。现在，它们变成了必须重新处理的问题。智能体本身不会消失，但那种任何人都可以创建、扮演和被陪伴的阶段正在走向终结。