别想用软色情做智能体的跳板
出品|虎嗅ESG组
作者|陈玉立
头图|视觉中国
本文是别想板#ESG进步观察#系列第169篇文章
本次观察关键词:供应链治理
近日,豆包与千问几乎同时宣布下线智能体作用。用软
据公开报道,色情豆包智能体下线后,做智相关作用存在于独立商品“猫箱”;而千问处理得更彻底,别想板直接关闭相关作用且不给予迁移路径。用软
两家大厂不仅处置方式类似,色情时间点也高度一致——都卡在7月15日《人工智能拟人化互动业务管理暂行办法》正式施行之前,做智办法提到需对虚拟恋人、别想板深度角色扮演、用软情感依附类AI设立强约束。色情
所以,做智大厂切掉的别想板并非问答、办公、用软搜索、色情代码、工作流这类通用AI能力,真正被重新定价的是过去一两年里迅速膨胀的关系型智能体:客户自建人设、角色扮演、虚拟恋人、情感陪伴、公开分发的智能体广场。
一句话总结:智能体没有整体退潮,退潮的是低门槛UGC、情绪依赖和灰色亲密互动撑起来的那部分增长。
在新规之后,智能体赛道可能开端分流:任务型智能体继续发展,关系型智能体进入强合规时代,带情感陪伴作用的AI“情趣”硬件大概率被堵在门外。
大厂切割“关系型智能体”
在豆包与千问的动作中,值得观察的地方在于“下线的究竟是什么”。
从平台处理方式看,豆包并没有放弃大模型主商品,也没有放弃AI助手能力,反而选择把高风险互动作用从主App中剥离,只在独立商品中存续。这一动作的含义明确:主App要继续承担大众效率工具、搜索入口、AI助手的角色,情感互动、角色扮演、客户生成智能体这类风险更高的作用,则被放到“隔离区”。
千问的处理则是直接关闭,且不给迁移路径,说明平台对这块业务的判断更冷。如果一个非核心作用带来的审核成本、监管压力、舆论风险超过业务收益,关掉就是最干净的选择。
此次下架动作中两家底层逻辑一致:关系型智能体在大厂主入口里的位置变了。过去它能带来互动、时长和客户参与;现在,它开端变成风险资产。
一个值得追问的议题是,为什么关停智能体的是豆包、千问?为什么WorkBuddy这类商品看起来没有受到同样冲击?
答案大概率藏在商品属性里。
WorkBuddy这类偏办公、公司协作、工作流的智能体,处理的是任务:写文档、做纪要、调流程、跑数据。它的主要风险集中在数据权限、公司信息可靠、输出准确性和流程责任上;而关系型智能体处理的是人和拟人对象之间的关系,客户完全能够创建一个“AI女友”“AI男友”“病娇妹妹”“霸总伴侣”,加上平台再给予广场、推荐、和分享,这就从工具变成了拟人化内容平台,风险也就随之放大。
首先可能会带来UGC失控。客户能够低成本创建人设、设定语气、关系、头像、开场白,再公开发布。供给越丰富,审核压力越大。此前上海累计下架1.4万个违规智能体,就是一个很直接的信号:不加管制的开放智能体生态容易滋生擦边内容、侵权人设、真人仿冒和低俗互动。
其次是关系依赖。普通问答助手回答完就结束,关系型智能体会持续记忆、主动关心、采用亲密称呼、模拟陪伴关系。客户投入越深,商品留存越强,付费转化也越容易。但在未成年人、心理脆弱人群、孤独老人等场景里,这种黏性很容易越过可靠边界。
最后是平台分发责任。一个客户自己创建、自己采用的智能体,风险半径有限;一旦进入智能体广场、排行榜、搜索页和推荐流,平台就参与了放大。此时再用“客户自建”解释责任,就有些“无力”了。
这就是豆包、千问这类大流量入口最敏感的地方,它们做全民AI助手的品牌要求是干净、可信、普适。但主App里如果混入大量虚拟恋人、暧昧陪伴、侵权角色、擦边人设,一旦被截图传播,损害的会是整个商品的公共信任。
豆包和千问的下架动作本质上都是停止为非核心场景承担额外风险。两者都说明,大厂已开端给关系型智能体重新算账。
新规把边界画到了商品形态上
新规真正有杀伤力的地方,在于它没有停留在“内容审核”层面,而是把监管边界延伸到了业务定义和商品形态。
据《人工智能拟人化互动业务管理暂行办法》第八条指出,生成、给予淫秽色情、亲密性模拟交互内容或硬件作用,被明确禁止。这条规则直击“拟人化关系商业化”的灰色地带。
过去许多AI陪伴商品会用“情感”“陪护”“孤独经济”包装自己。表面上它们给予倾诉、陪伴、安慰,实际上增长最强的是更暧昧的部分:不限于亲密称呼、恋爱角色、暧昧对话等。客户越投入,停留越久;关系越强,付费越容易。
关系型智能体把AI从工具变成关系对象,把一次性的采用变成持续性的陪伴。会员、角色权益、高级模型、道具、订阅,都能够接在这条关系链上。
难题也出在这里。
当商品开端利用孤独、亲密需求、情绪脆弱性提升留存和付费,监管关注点就会从“模型有没有说错话”转向“平台有没有制造依赖”。如果再叠加未成年人、诱导消费、色情暗示、侵权人设、心理疏导越界,风险等级会迅速上升。
所以,新规划出的边界能够概括成一句话:情感陪护能够做,把陪护关系性化不行;拟人化交互能够做,用拟人化关系导向情欲消费不行。
从这一角度看,对AI硬件公司的压力更大。
许多硬件从业者原本以为,拟人化互动监管主要作用聊天App、智能体平台、虚拟陪伴软件。但新规覆盖的是“拟人化互动业务”,硬件只要搭载语音陪伴、主动关怀、仿人外观,就可能进入监管视野。
尤其是AI陪护机器人、AI宠物、AI玩具、老人陪伴终端等。这些商品天然会强调陪伴感。为了提升客户黏性,厂商会设计专属称呼、情绪识别、主动问候、记忆偏好、拟人语气甚至肢体动作。这些设计本身并不必然违规,但边界会变得十分敏感。
儿童场景涉及未成年人保护、防沉迷、价值观引导、诱导消费等;老人场景涉及认知能力下降、健康建议误导、诈骗风险等。只要厂商宣传自己给予“陪护”“心理疏导”“情绪安抚”,就不能再把自己简单定义成卖硬件。
更高风险的是“情感陪伴AI+性交互硬件”。
成人硬件行业过去有一个明显痛点:一次性消费多,持续留存弱,客户关系浅。AI给它给予了新的想象空间:让硬件具备人格、记忆和情绪回应,把工具变成“伴侣”,再通过订阅、内容、互动脚本实现持续变现。
新规直接堵住了这条路。
一款商品如果同时具备AI情感陪伴、长期人格记忆、情欲互动算法、仿真性结构或模拟性行为机械结构,就很难再被解释成普通成人用品或普通陪护设备。它的风险不再是模型偶尔越界,而是商品设计目标本身踩线。新规施行后,这类商品在可靠评估、上市销售、渠道合规上都会遭遇实质障碍。
软件商品出难题,还能下线入口、调整模型、提升过滤、修改提示词。硬件一旦开模、生产、铺货、上市,整改成本极高。商品形态如果已带着亲密模拟结构,合规风险就被固化在设备上。
所以AI硬件从业者的压力,来自一个更前置的难题:商品定义能不能经得起审查。
你到底是生活辅助设备,还是虚拟伴侣?是老人照护终端,还是借陪护之名包装亲密互动?是情绪兼容工具,还是通过人格化关系推动情欲消费?
这些难题回答不清,商品很难走远。
智能体开端分流
一个判断是,智能体行业接下来不会整体降温,但会明显分层。
第一类,任务型智能体会继续加速。
办公助手、公司知识库、代码智能体、客服助手、会议纪要、数据分析助手、流程自动化Agent,这些商品处理的是明确任务。它们的价值能够用效率、成本、准确率、响应速度、流程节省来衡量。
这类商品的合规重点主要在数据可靠、权限控制、公司审计、输出责任。它们不会主动制造亲密关系,也不依赖客户情绪黏性变现。WorkBuddy这类商品能相对平稳,原因就在这里。
它有风险,但风险类型清楚;它要治理的是“组织如何可靠采用AI”,不是“客户是否对一个虚拟人格产生依赖”。
第二类,关系型智能体进入强合规时代。
AI恋人、虚拟男友/女友、情绪陪伴、角色扮演、客户自建智能体、智能体广场,并不会因为新规直接消失。陪伴、倾诉、孤独缓解、养老辅助、心理兼容,都是真实需求。AI在这些场景里也有价值。
但过去那套玩法走不通了。
开放UGC、擦边人设、低成本角色库、热门榜分发、亲密互动拉留存、会员订阅收割情绪依赖,这条链路会越来越难做。平台必须补上年龄分级、防沉迷、未成年人保护、内容审核、真人仿冒治理、角色版权审核、风险提示、诱导消费限制、情感依赖边界管理等。
而这些东西也都会进入成本表。
过去一个小团队接入模型API,做一套角色模板,加上广场和分享机制,很快就能跑出一个陪伴商品。合规成本没有显性化时,增长故事很好讲。一旦审核、投诉、版权、未成年人保护、心理风险干预都变成硬成本,许多商品的商业模型会被重新计算。
关系型智能体仍有机会,但会从“野放式增长”进入“强边界运营”。留下来的,不会是最会撩拨情绪的团队,而是能把场景、责任和风险讲清楚的团队。
第三类,“拟人化AI+情欲硬件”会被挤出主流行业。
这类商品的难题最尖锐。聊天商品偶发越界还能补救,硬件商品一旦把仿真结构、亲密模拟、情欲算法和AI人格绑定起来,就已实现了高风险商品闭环。
新规拆掉了许多灰色包装:你不能一边宣称养老陪护、心理疏导、日常陪伴,一边设计情欲互动算法和性交互硬件;不能一边享受拟人化关系带来的高黏性,一边又把风险藏在“成人自愿采用”的叙事里。
这显然会带来一轮行业出清。短期内,平台会收缩智能体业务,清理敏感角色,降低情感陪伴作用在主App里的权重;AI陪伴商品会强化分级、审核和提示;部分AI硬件项目会推迟上市,重新评估外观、交互和作用边界。
长期看,智能体行业会回到更清晰的价值框架里:能提升效率的继续做,能给予照护的规范做,依赖擦边和情欲变现的退出。
这也是豆包、千问这次动作给行业的最大信号。
它们并没有否定AI应用,也没有否定智能体方向。它们只是用商品调整告诉行业:关系型智能体不能再无差别地塞进主入口,平台不能继续把高风险互动当成低成本增长工具。
AI行业进入下一阶段后,竞争不只看模型能力、入口流量和交互体验,还要看合规能力、风控体系和社会信任。
过去,智能体被想象成一个“什么都能扮演、什么关系都能模拟”的万能入口。新规之后,这一想象需要重写。所谓“智能体告别野蛮生长”,说到底,是行业开端为商品边界、客户脆弱性和商业模式付账。返回搜狐,查看更多