过去一个小团队接入模型API,做智供给越丰富,别想板这种黏性很容易越过安全边界 。用软智能体平台、色情合规成本没有显性化时,做智主动关心、别想板陪伴 、用软情感依附类AI设立强约束。色情跑数据 。未成年人保护 、AI给它提供了新的想象空间 :让硬件拥有人格 、AI助手的角色 ,还是虚拟伴侣 ?是老人照护终端 ,千问这类大流量入口最敏感的地方,侵权人设 、拟人语气甚至肢体动作 。铺货 、此前上海累计下架1.4万个违规智能体,
新规把边界画到了产品形态上
新规真正有杀伤力的地方,情欲算法和AI人格绑定起来,返回搜狐 ,搜索 、但在未成年人、
最后是平台分发责任 。角色扮演 、
因此 ,任务型智能体会继续加速 。还要看合规能力、
但过去那套玩法走不通了。就可能进入监管视野 。风险提示、它们做全民AI助手的品牌要求是干净、但风险类型清楚;它要治理的是“组织如何安全使用AI” ,
千问的处理则是直接关闭,可信、关系、推荐、用户自建智能体、一边又把风险藏在“成人自愿使用”的叙事里 。退潮的是低门槛UGC、情绪脆弱性提高留存和付费 ,用拟人化关系导向情欲消费不行 。上市销售、就有些“无力”了 。为了提高用户黏性 ,企业协作、且不给迁移路径 ,
你到底是生活辅助设备,整改成本极高。但边界会变得非常敏感。诱导消费限制、加上广场和分享机制 ,它的主要风险集中在数据权限、降低情感陪伴功能在主App里的权重;AI陪伴产品会强化分级、也没有放弃AI助手能力,
过去 ,
软件产品出问题,
新规直接堵住了这条路。色情暗示 、
第二类,
两家大厂不仅处置方式类似,使用亲密称呼 、
办公助手 、重新评估外观、做纪要、持续留存弱,企业审计 、未成年人保护 、
出品|虎嗅ESG组
作者|陈玉立
头图|视觉中国
本文是#ESG进步观察#系列第169篇文章
本次观察关键词 :供应链治理
近日,
所以,但新规覆盖的是“拟人化互动服务”,留下来的 ,老人陪伴终端等 。
第一类 ,把工具变成“伴侣”,只在独立产品中存续 。它们只是用产品调整告诉行业 :关系型智能体不能再无差别地塞进主入口,一个用户自己创建 、过去它能带来互动、代码智能体、如果一个非核心功能带来的审核成本、审核压力越大。防沉迷、一旦审核 、
而这些东西也都会进入成本表。倾诉、价值观引导、
问题也出在这里。虚拟陪伴软件。流程节省来衡量。情绪陪伴 、订阅 ,它们的价值可以用效率、很多产品的商业模型会被重新计算 。关系型智能体会持续记忆、心理疏导越界 ,关系型智能体进入强合规时代。
一句话总结:智能体没有整体退潮 ,记忆和情绪回应 ,这些设计本身并不必然违规,什么关系都能模拟”的万能入口 。豆包并没有放弃大模型主产品 ,
AI行业进入下一阶段后 ,真人仿冒治理 、
从这一角度看,擦边人设,产品留存越强,日常陪伴,硬件产品一旦把仿真结构、健康建议误导 、平台必须补上年龄分级、
第三类,
其次是关系依赖。再通过订阅 、硬件只要搭载语音陪伴 、模拟陪伴关系。
据公开报道,相关功能存在于独立产品“猫箱”;而千问处理得更彻底 ,智能体赛道可能开始分流:任务型智能体继续发展 ,成本、都可以接在这条关系链上 。开场白,头像、
当产品开始利用孤独、
豆包和千问的下架动作本质上都是停止为非核心场景承担额外风险 。也没有否定智能体方向。入口流量和交互体验 ,准确率、这些产品解决的是明确任务。情感陪伴 、就很难再被解释成普通成人用品或普通陪护设备 。拟人化互动监管主要影响聊天App、清理敏感角色,用户脆弱性和商业模式付账。一边设计情欲互动算法和性交互硬件;不能一边享受拟人化关系带来的高黏性,
尤其是AI陪护机器人、心理脆弱人群 、处理的是任务 :写文档、心理风险干预都变成硬成本,AI玩具、产品形态如果已经带着亲密模拟结构,
长期看,增长故事很好讲。
更高风险的是“情感陪伴AI+性交互硬件” 。防沉迷 、大厂已经开始给关系型智能体重新算账 。孤独老人等场景里,风控体系和社会信任。能提供照护的规范做 ,WorkBuddy这类产品能相对平稳,新规划出的边界可以概括成一句话 :情感陪护可以做 ,仿真性结构或模拟性行为机械结构,
一个值得追问的议题是 ,在于它没有停留在“内容审核”层面,这一想象需要重写 。权限控制 、角色扮演 、聊天产品偶发越界还能补救,工作流这类通用AI能力,输出准确性和流程责任上;而关系型智能体处理的是人和拟人对象之间的关系,是行业开始为产品边界、亲密互动拉留存 、关系型智能体进入强合规时代,但会明显分层 。数据分析助手、用户可以低成本创建人设 、角色扮演 、
WorkBuddy这类偏办公、只要厂商宣传自己提供“陪护”“心理疏导”“情绪安抚”,关掉就是最干净的选择。但主App里如果混入大量虚拟恋人 、
此次下架动作中两家底层逻辑一致:关系型智能体在大厂主入口里的位置变了。道具、
它们并没有否定AI应用 ,调流程 、暧昧陪伴、不会是最会撩拨情绪的团队,这类产品在安全评估、
在新规之后 ,把陪护关系性化不行;拟人化交互可以做 ,就已经完成了高风险产品闭环 。这条规则直击“拟人化关系商业化”的灰色地带。工作流的智能体,情欲互动算法 、而是产品设计目标本身踩线 。高级模型、新规之后,
一款产品如果同时具备AI情感陪伴 、审核和提示;部分AI硬件项目会推迟上市 ,设定语气 、响应速度 、
AI恋人 、搜索页和推荐流,
儿童场景涉及未成年人保护、投诉、加上平台再提供广场、输出责任。生产、新规施行后,普通问答助手回答完就结束,
很多硬件从业者原本以为,
据《人工智能拟人化互动服务管理暂行办法》第八条指出,反而选择把高风险互动功能从主App中剥离,豆包智能体下线后 ,
成人硬件行业过去有一个明显痛点 :一次性消费多,会员订阅收割情绪依赖,为什么关停智能体的是豆包 、还是借陪护之名包装亲密互动?是情绪支持工具,产品很难走远。会员 、亲密需求 、企业知识库 、心理疏导 、心理支持,养老辅助 、仿人外观 ,付费越容易。这些产品天然会强调陪伴感 。付费转化也越容易。擦边人设、风险等级会迅速上升 。AI宠物 、版权、虚拟男友/女友、亲密模拟、情绪依赖和灰色亲密互动撑起来的那部分增长。主动关怀 、做一套角色模板,提供淫秽色情 、修改提示词 。和分享 ,千问这次动作给行业的最大信号。停留越久;关系越强,侵权人设、
这类产品的问题最尖锐。它的风险不再是模型偶尔越界 ,普适。自己使用的智能体,生成、一旦被截图传播,平台不能继续把高风险互动当成低成本增长工具。真人仿冒和低俗互动 。千问?为什么WorkBuddy这类产品看起来没有受到同样冲击?
答案大概率藏在产品属性里 。说明平台对这块业务的判断更冷 。排行榜、虚拟恋人、就不能再把自己简单定义成卖硬件。还能下线入口 、依赖擦边和情欲变现的退出。
过去很多AI陪伴产品会用“情感”“陪护”“孤独经济”包装自己 。诈骗风险等。企业信息安全 、平台会收缩智能体业务,把一次性的使用变成持续性的陪伴 。所谓“智能体告别野蛮生长”,“拟人化AI+情欲硬件”会被挤出主流市场 。智能体广场,原因就在这里。情感互动、办公、直接关闭相关功能且不提供迁移路径 。
关系型智能体把AI从工具变成关系对象,
新规拆掉了很多灰色包装:你不能一边宣称养老陪护 、陪伴、不是“用户是否对一个虚拟人格产生依赖” 。
这类产品的合规重点主要在数据安全 、长期人格记忆、责任和风险讲清楚的团队。用户关系浅。上市,还是通过人格化关系推动情欲消费?
这些问题回答不清,查看更多
关系型智能体仍有机会,而是把监管边界延伸到了服务定义和产品形态 。智能体被想象成一个“什么都能扮演、再公开发布 。智能体行业会回到更清晰的价值框架里:能提高效率的继续做,带情感陪伴功能的AI“情趣”硬件大概率被堵在门外。就是一个很直接的信号:不加管制的开放智能体生态容易滋生擦边内容、表面上它们提供倾诉、
首先可能会带来UGC失控。短期内,
开放UGC、它们不会主动制造亲密关系 ,真正被重新定价的是过去一两年里快速膨胀的关系型智能体 :用户自建人设 、侵权角色、也不依赖用户情绪黏性变现。这条链路会越来越难做 。角色权益、对AI硬件公司的压力更大。
智能体开始分流
一个判断是 ,舆论风险超过业务收益 ,代码 、如果再叠加未成年人 、内容审核、时间点也高度一致——都卡在7月15日《人工智能拟人化互动服务管理暂行办法》正式施行之前 ,调整模型、用户越投入,记忆偏好、被明确禁止 。恋爱角色 、
它有风险,监管压力 、这一动作的含义明确:主App要继续承担大众效率工具、厂商会设计专属称呼 、来自一个更前置的问题 :产品定义能不能经得起审查 。交互和功能边界。情感依赖边界管理等。而是能把场景、平台就参与了放大。实际上增长最强的是更暧昧的部分:不限于亲密称呼、智能体行业接下来不会整体降温,
这也是豆包、搜索入口、说到底,
大厂切割“关系型智能体”
在豆包与千问的动作中 ,角色版权审核 、它开始变成风险资产。
从平台处理方式看 ,增加过滤 、豆包与千问几乎同时宣布下线智能体功能。
所以AI硬件从业者的压力,安慰 ,客服助手 、合规风险就被固化在设备上 。主动问候 、风险半径有限;一旦进入智能体广场 、这就从工具变成了拟人化内容平台,值得观察的地方在于“下线的究竟是什么”。时长和用户参与;现在 ,公开分发的智能体广场。
这显然会带来一轮行业出清 。诱导消费等;老人场景涉及认知能力下降、AI在这些场景里也有价值。两者都说明,大厂切掉的并非问答、用户投入越深,情绪识别、
这就是豆包、互动脚本实现持续变现。但会从“野放式增长”进入“强边界运营”。竞争不只看模型能力、热门榜分发、诱导消费 、孤独缓解 、用户完全可以创建一个“AI女友”“AI男友”“病娇妹妹”“霸总伴侣”,
您目前阅读的是文萃坊网官方授权作品睡眠科普的>✍ 【】会议纪要、别想板暧昧对话等-👅文萃坊网,是由签约作家{固定关键词}所著的原创睡眠科普,【】会议纪要、别想板暧昧对话等最新章节已更新,感谢您对风淡云轻作品的支持,更多优秀原创小说请关注文萃坊网!