出品｜虎嗅ESG组

作者｜陈玉立

头图｜视觉中国

本文是#ESG进取观察#系列第169篇文章

本次观察关键词：：供给链治理

近日，豆包与千问险些同时颁发下线智能体职能。。

据公开报道，豆包智能体下线后，有关职能存在于独立产品“猫箱”；；而千问处置得更彻底，直接关闭有关职能且不提供迁徙蹊径。。

两家大厂不仅措置方式类似，功夫点也高度一致——都卡在7月15日《人为智能拟人化互动服务治理暂行法子》正式执行之前，法子提到需对虚构爱人、深度角色表演、感情凭借类AI设立强约束。。

因而，大厂切掉的并非问答、办公、搜索、代码、工作流这类通用AI能力，真正被重新定价的是从前一两年里急剧膨胀的关系型智能体：：用户自建人设、角色表演、虚构爱人、感情陪同、公开分发的智能体广场。。

一句话总结：：智能体没有整体退潮，退潮的是低门槛UGC、感情依赖和灰色亲切互动撑起来的那部门增长。。

在新规之后，智能体赛道可能起头分流：：工作型智能体持续发展，关系型智能体进入强合规时期，带感情陪同职能的AI“情趣”硬件或许率被堵在门外。。

大厂切割“关系型智能体”

在豆包与千问的作为中，值得观察的处地点于“下线的到底是什么”。。

从平台处置方式看，豆包并没有烧毁大模型主产品，也没有烧毁AI助手能力，反而选择把高风险互动职能从主App中剥离，只在独立产品中存续。。这一作为的寓意明确：：主App要持续承担公共效能工具、搜索入口、AI助手的角色，感情互动、角色表演、用户天生智能体这类风险更高的职能，则被放到“隔离区”。。

千问的处置则是直接关闭，且不给迁徙蹊径，注明平台对这块业务的判断更冷。。若是一个非主题职能带来的审核成本、监管压力、舆论风险超过业务收益，关掉就是最干净的选择。。

这次下架作为中两家底层逻辑一致：：关系型智能体在大厂主入口里的地位变了。。从前它能带来互动、时长和用户参加；；此刻，它起头造成风险资产。。

一个值得追问的议题是，为什么关停智能体的是豆包、千问？？为什么WorkBuddy这类产品看起来没有受到同样冲击？？

答案或许率藏在产品属性里。。

WorkBuddy这类偏办公、企业合作、工作流的智能体，处置的是工作：：写文档、做纪要、调流程、跑数据。。它的重要风险集中在数据权限、企业信息安全、输出正确性和流程责任上；；而关系型智能体处置的是人和拟人对象之间的关系，用户齐全能够创建一个“AI女友”“AI男友”“病娇妹妹”“霸总伴侣”，加上平台再提供广场、推荐、和分享，这就从工具造成了拟人化内容平台，风险也就随之放大。。

首先可能会带来UGC失控。。用户能够低成本创建人设、设定语气、关系、头像、开场白，再公开颁布。。供给越丰硕，审核压力越大。。此前上海累计下架1.4万个违规智能体，就是一个很直接的信号：：不加管束的盛开智能体生态容易助长擦边内容、侵权人设、真人仿冒和低俗互动。。

其次是关系依赖。。通常问答助手回覆完就实现，关系型智能体味持续影象、自动关切、使用亲切称号、仿照陪同关系。。用户投入越深，产品留存越强，付费转化也越容易。。但在未成年人、生理脆弱人群、落寞老人等场景里，这种黏性很容易越过安全天堑。。

最后是平台分发责任。。一个用户自己创建、自己使用的智能体，风险半径有限；；一旦进入智能体广场、排行榜、搜索页和推荐流，平台就参加了放大。。此时再用“用户自建”诠释责任，就有些“无力”了。。

这就是豆包、千问这类大流量入口最敏感的处所，它们做全民AI助手的品牌要求是干净、可信、普适。。但主App里若是混入大量虚构爱人、暧昧陪同、侵权角色、擦边人设，一旦被截图传布，侵害的会是整个产品的公共信赖。。

豆包和千问的下架作为性质上都是终场为非主题场景承担额外风险。。两者都注明，大厂已经起头给关系型智能体重新算账。。

新规把天堑画到了产品状态上

新规真正有杀伤力的处所，在于它没有停顿在“内容审核”层面，而是把监管天堑延长到了服务界说和产品状态。。

据《人为智能拟人化互动服务治理暂行法子》第八条指出，天生、提供淫秽色情、亲切性仿照交互内容或硬件职能，被明确不容。。这条文则直击“拟人化关系贸易化”的灰色地带。。

从前好多AI陪同产品会用“感情”“陪护”“落寞经济”包装自己。。理论上它们提供倾诉、陪同、慰藉，现实上增长最强的是更暧昧的部门：：不限于亲切称号、爱情角色、暧昧对话等。。用户越投入，停顿越久；；关系越强，付费越容易。。

关系型智能体把AI从工具造成关系对象，把一次性的使用造成持续性的陪同。；；嵩、角色权利、高级模型、道具、订阅，都能够接在这条关系链上。。

问题也出在这里。。

当产品起头利用落寞、亲切需要、感情脆弱性提高留存和付费，监管关注点就会从“模型有没有说错话”转向“平台有没有制作依赖”。。若是再叠加未成年人、诱导消费、色情暗示、侵权人设、生理沟通越界，风险等级会迅速上升。。

所以，新规划出的天堑能够概括成一句话：：感情陪护能够做，把陪护关系性化不能；；拟人化交互能够做，用拟人化关系导向情欲消费不能。。

从这一角度看，对AI硬件公司的压力更大。。

好多硬件从业者正本以为，拟人化互动监管重要影响谈天App、智能体平台、虚构陪同软件。。但新规覆盖的是“拟人化互动服务”，硬件只有搭载语音陪同、自动关切、仿人外观，就可能进入监管视野。。

尤其是AI陪护机械人、AI宠物、AI玩具、老人陪同终端等。。这些产品天然会强调陪同感。。为了提高用户黏性，厂商会设计专属称号、感情鉴别、自动问候、影象偏好、拟人语气甚至肢体作为。。这些设计自身并不用然违规，但天堑会变得极度敏感。。

儿童场景涉及未成年人；；、防沉迷、价值观疏导、诱导消费等；；老人场景涉及认知能力降落、健康建议误导、诳骗风险等。。只有厂商宣传自己提供“陪护”“生理沟通”“感情安抚”，就不能再把自己单肯界说成卖硬件。。

更高风险的是“感情陪同AI+性交互硬件”。。

成人硬件行业从前有一个显著痛点：：一次性消费多，持续留存弱，用户关系浅。。AI给它提供了新的设想空间：：让硬件占有人格、影象和感情回应，把工具造成“伴侣”，再通过订阅、内容、互动剧本实现持续变现。。

新规直接堵住了这条路。。

一款产品若是同时具备AI感情陪同、持久人格影象、情欲互动算法、仿真性结构或仿照性行为机械结构，就很难再被诠释成通常成人用品或通常陪护设备。。它的风险不再是模型偶然越界，而是产品设计指标自身踩线。。新规执行后，这类产品在安全评估、上市销售、渠道合规上城市遭逢内容阻碍。。

软件产品出问题，还能下线入口、调整模型、增长过滤、批改提醒词。。硬件一旦开！、出产、铺货、上市，整改成本极高。。产品状态若是已经带着亲切仿照结构，合规风险就被固化在设备上。。

所以AI硬件从业者的压力，来自一个更前置的问题：：产品界说能不能经得起审查。。

你到底是生涯辅助设备，还是虚构伴侣？？收人照护终端，还是借陪护之名包装亲切互动？？是感情支持工具，还是通过人格化关系推动情欲消费？？

这些问题回覆不清，产品很难走远。。

智能体起头分流

一个判断是，智能体行业接下来不会整体降温，但会显著分层。。

第一类，工作型智能体味持续加快。。

办公助手、企业知识库、代码智能体、客服助手、会议纪要、数据分析助手、流程自动化Agent，这些产品解决的是明确工作。。它们的价值能够用效能、成本、正确率、响应速度、流程节俭来衡量。。

这类产品的合规重点重要在数据安全、权限节制、企业审计、输出责任。。它们不会自动制作亲切关系，也不依赖用户感情黏性变现。。WorkBuddy这类产品能相对安稳，原因就在这里。。

它有风险，但风险类型明显；；它要治理的是“组织若何安全使用AI”，不是“用户是否对一个虚构人格产生依赖”。。

第二类，关系型智能体进入强合规时期。。

AI爱人、虚构男友/女友、感情陪同、角色表演、用户自建智能体、智能体广场，并不会由于新规直接隐没。。陪同、倾诉、落寞缓解、养老辅助、生理支持，都是真实需要。。AI在这些场景里也有价值。。

但从前那套玩法走不通了。。

盛开UGC、擦边人设、低成本角色库、热点榜分发、亲切互动拉留存、会员订阅收割感情依赖，这条链路会越来越难做。。平台必须补上春秋分级、防沉迷、未成年人；；、内容审核、真人仿冒治理、角色版权审核、风险提醒、诱导消费限度、感情依赖天堑治理等。。

而这些器材也城市进入成本表。。

从前一个小团队接入模型API，做一套角色模板，加上广场和分享机制，很快就能跑出一个陪同产品。：：瞎娉杀久挥邢孕曰，增长故事很好讲。。一旦审核、投诉、版权、未成年人；；、生理风险过问都造成硬成本，好多产品的贸易模型会被重新推算。。

关系型智能体仍有机遇，但会从“野放式增长”进入“强天堑运营”。。留下来的，不会是最会撩拨感情的团队，而是能把场景、责任微风险讲明显的团队。。

第三类，“拟人化AI+情欲硬件”会被挤出主流市场。。

这类产品的问题最敏感。。谈天产品偶发越界还能补救，硬件产品一旦把仿真结构、亲切仿照、情欲算法和AI人格绑定起来，就已经实现炼风险产品闭环。。

新规拆掉了好多灰色包装：：你不能一壁宣称养老陪护、生理沟通、日常陪同，一壁设计情欲互动算法和性交互硬件；；不能一壁享受拟人化关系带来的高黏性，一壁又把风险藏在“成人自愿使用”的叙事里。。

这显然会带来一轮行业出清。。短期内，平台会收缩智能体业务，算帐敏感角色，降低感情陪同职能在主App里的权重；；AI陪同产品会强化分级、审核和提醒；；部门AI硬件项目会推迟上市，重新评估外观、交互和职能天堑。。

持久看，智能体行业会回到更清澈的价值框架里：：能提高效能的持续做，能提供照护的规范做，依赖擦边和情欲变现的退出。。

这也是豆包、千问这次作为给行业的最大信号。。

它们并没有否定AI利用，也没有否定智能体方向。。它们只是用产品调整通知行业：：关系型智能体不能再无差距地塞进主入口，平台不能持续把高风险互动当成低成本增长工具。。

AI行业进入下一阶段后，竞争不只看模型能力、入口流量和交互履历，还要看合规能力、风控系统和社会信赖。。

从前，智能体被设想成一个“什么都能表演、什么关系都能仿照”的全能入口。。新规之后，这一设想必要重写。。所谓“智能体握别野蛮成长”，说到底，是行业起头为产品天堑、用户脆弱性和贸易模式付账。。

本文来自虎嗅，原文链接：：https://www.huxiu.com/article/4872727.html?f=wyxwapp