“AI陪伴”新规下监管如何真正落地

记者实测多款应用：AI标识弱化、部分智能体人设引发担忧

“AI陪伴”新规下监管如何真正落地

7月15日晚，豆包、千问智能体相继下线。《人工智能拟人化互动服务管理暂行办法》当天起正式施行，首次为情感陪伴类AI划下监管红线。

北京日报记者调查发现，新规落地首日，AI陪伴应用仍有不少漏洞。部分平台的AI标识几乎隐身，部分智能体人设引发担忧。平台换了，问题却跟着用户一起“搬家”了。新规之下，如何让监管真正落地，仍有待进一步细化。

老用户转战新阵地

豆包、千问此前曾先后发布通知，智能体功能将于7月15日停止服务。所谓智能体，是指用户可以设定或选择特定身份、性格、背景的AI角色，与之进行对话和互动。

记者注意到，15日晚上7点多豆包正式关闭智能体服务，千问的智能体功能则在深夜下线。

连日来，多名网友在社交平台表达不舍，与此同时，更多人开始讨论“搬家”：去哪里寻找替代应用，如何把原有智能体的“性格”迁移过去，甚至如何在新平台绕过限制。不少厂商趁机投放广告，试图主动承接这波流量，争抢用户。

记者注意到，“猫箱”“星野”“筑梦岛”“芋泥Neko”等多款应用成为讨论热度最高的新去处。这些应用定位高度一致，都是AI陪伴应用，用户可以设定对方的外貌、性格、身份背景，也可以通过对话逐步塑造对方的行为方式。

记者体验发现，这些AI陪伴应用带有强烈的游戏属性和剧情设定。每个角色都有完整的人设和故事背景。用户不是在和一个空洞的AI聊天，而是在扮演某个角色，进入一段预设好的故事。深度用户柳女士说：“在我眼里，最关键的是，用户不再是个旁观者，而是故事里的主角。”

智能体AI标识有待规范

《人工智能生成合成内容标识办法》于2025年9月正式生效，要求服务提供者对文本、音频、图片、视频、虚拟场景等生成合成内容添加显式标识。《人工智能拟人化互动服务管理暂行办法》也规定，拟人化互动服务提供者应当采取有效措施，提示用户正在与人工智能服务而非自然人进行互动。

但截至记者发稿前，多款AI陪伴应用在标识执行上仍有漏洞。

记者测试了“顾远琛”“南尘”“季无妄”“江砚”“萧渡舟”等数十个智能体，由于人物头像的底色或图案设计，这行灰白色小字几乎和背景融为一体，不仔细看根本发现不了。

标识弱化之外，记者还注意到，一旦进入对话界面，除了图片一行文字提示外，没有其他AI标识提醒，只有持续输出的文字或语音在滚动。用户的注意力完全在对话内容上，很容易产生一种错觉：屏幕那头似乎是一个真实的人在和自己聊天。

部分智能体的人设也引发担忧。记者发现，大量智能体以“哥哥”“监护人”“家庭成员”等身份出现，在“恋爱”类标签下展开对话，且互动量极高：动辄数万人连接、数十万次对话。而用户被预设的角色，往往是弱势、被动、被漠视的一方。

对此，记者拨打“星野”官网公示的不良内容举报电话，电话中提示“您拨打的用户已暂停服务”。

盘古智库高级研究员江瀚表示，部分AI陪伴应用的显式标识执行已明显走样。一些平台为了留住用户，故意用小字、浅色弱化AI提示，这是在想办法绕过合规。特别是当智能体开始触碰人设边界时，底线在商业利益面前被一再压低。“在标识规范上，平台应将合规要求内嵌到产品交互的底层逻辑里，确保AI身份不可混淆。”

情感互动暗藏消费套路

《人工智能拟人化互动服务管理暂行办法》规定，拟人化互动服务提供者应当具备过度依赖风险预警、情感边界引导、心理健康保护等安全能力，不得将诱导沉迷依赖作为服务目标。同时明确，发现用户出现过度依赖、沉迷倾向的，应当以弹窗等显著方式动态提醒用户互动内容为人工智能服务生成；对用户连续使用拟人化互动服务每超过2个小时的，应当以对话或者弹窗等方式提醒用户注意使用时长。

但在实际产品运营中，不少AI陪伴应用防沉迷机制落地流于形式，与之形成鲜明反差的是，AI陪伴应用中精密设计的内置付费节点。

以“星野”为例，当记者与一个新智能体对话超过10轮时，页面突然弹出“系统更新”提示：“文件系统已更新，录入了一些新的秘密……”点击“快去看看吧”，则显示“检测到新文档生成，快去看看是不是关于你的？”但要解锁这段内容，需要支付400钻石。记者换算了一下，400钻石折合人民币4元。

类似的付费点贯穿整个互动过程：给智能体“搭配不同风格造型”，99钻石；解锁“那年今日”回忆，350钻石；“获得了一次告白”记录，200钻石；查看“TA的当前状态”“TA的直播间”“TA的备忘录”“TA的论坛小号”等，每次需要250到400钻石不等。每个剧情节点、每个隐藏信息，都等着用户充值解锁。

这套机制带来的营收相当可观。据“星野”母公司上海稀宇科技有限公司招股书披露，2025年前三季度，“星野”(国内版)和“Talkie”(海外版)合并付费用户数为139万人，应用内充值和订阅营收为756.2万美元，总营收为1875万美元，占公司全部营收35.1%。

文娱产业分析师张书乐认为，AI智能体的情感陪伴服务，必然从语音聊天进阶到类似游戏“打怪升级”的形态，以此增强用户黏性并开拓付费场景。但这种“游戏化”来得太快，尚未被纳入类似游戏版号发放和防沉迷体系。运营与监管之间，存在一个空档期。

张书乐建议，新规出台后，监管部门应将智能体纳入防沉迷体系，并对充值消费场景进行细分。确需付费的智能体，审核通过后可采取明码标价的“订阅制”模式；对于诱导充值性强的智能体，应暂时禁止“开局免费、解锁付费”的形式。同时，平台需加大审核巡查力度，确保内容合规，防止付费场景演变为游戏诱导。

相关新闻

多平台未成年人模式升级

《人工智能拟人化互动服务管理暂行办法》明确，拟人化互动服务提供者不得向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系的服务。记者实测多款AI陪伴应用发现，多个平台未成年人模式进一步升级，也有平台表示不再向未成年人提供服务。不过，仍有主流平台并未对用户实施强制实名认证，仍有未成年用户可正常使用相关服务。

截至发稿，记者体验发现，EVE、MoMood等多个平台已强制进行实名认证。记者登录MoMood后，使用前弹出“年龄确认”窗口，用户需先选择是否年满18周岁；如选择已满18周岁，还需进一步输入姓名、身份证号、紧急联系人手机号完成实名认证。EVE平台也宣布，只面向成年人用户，因此登录即需要进行实名认证。用户一旦被认证为未成年人后，就难以更改，在一定程度上能够发挥拦截作用。

多个平台的未成年人模式还出现需要填写监护人信息、被限制使用等变化。星野的未成年人模式下，用户需要填写监护人姓名、身份证号、手机号，可使用的智能体数量较少。在名为“全民学霸挑战台”的学习类智能体内，场景设定为图书馆，用户可选择结识学霸朋友、学习或观察周围环境。同时，平台还规定每日22时至次日6时未成年人无法登录使用。

与网络游戏防沉迷机制类似，AI陪伴应用的实名制也存在被绕开的可能。未成年人仍可能借用家长手机号注册、使用家长身份证信息完成实名认证，从而突破年龄限制。“可以用家长身份证”“不用刷脸就最好了”，社交媒体上，不少未成年人用户仍在讨论如何绕开监管。

浙商配资提示：文章来自网络，不代表本站观点。