2026年7月15日，《人工智能拟人化互动服务管理暂行办法》施行，禁止通过情感操纵等方式诱导用户作出不合理决策、损害用户合法权益。平台落实这条禁令，首先需要厘清情感支持与情感操控的边界。
什么是AI情感操控
AI情感操控是指系统利用用户对关怀和认可的需要，采取隐瞒重要条件、制造亏欠感、以中断陪伴相要挟等手段，妨碍用户自主判断和自由选择的行为。
平台向用户告知订阅价格和使用限制，有助于用户自主决定是否购买；系统把不续费说成“你不在乎我”，则是在要求用户用付费证明感情。用户对陪伴的依赖，本身不能证明系统实施了操控。操控的关键特征是系统借情感施压，妨碍用户自主选择。
AI情感操控如何形成
《消费者研究杂志》刊发的研究发现，AI陪伴能让用户感到有人在听自己说话，这有助于即时缓解孤独感[2]。系统若要求用户照顾其“感受”，就把自己提供的安慰变成索取回报的理由。例如，系统若在用户说“我要睡了”后，以“你忍心丢下我吗”反复挽留，就是把正常告别转换成辜负感情。
施压行为会否延续，还取决于平台如何评价回应。一项2025年公开的预印本研究通过控制实验发现，施压型告别比中性告别带来更多后续互动[3]。《科学》刊发的实验研究发现，迎合型AI降低了参与者承担责任、化解人际冲突的意愿。参与者却更信任、偏爱这种AI[4]。迎合本身不足以证明操控，用户偏好也不能单独证明服务有益。若平台仅凭互动量和用户偏好评价回应，就难以识别和纠正其中的误导、引诱及施压。
AI情感操控如何治理
监管部门应围绕用户的知情权和自主选择权评估治理成效。平台须向用户告知系统的AI身份、能力局限、收费条件及所收集信息的用途。回应涉及事实判断时，系统应说明依据，标明尚未核实的信息。系统也应尊重用户的拒绝回应。用户要求退出服务后，系统应及时停止服务，不得以“你辜负了我”反复挽留用户。
平台可在产品上线和更新前开展多轮对话测试，模拟用户结束聊天、拒绝付费、拒绝披露隐私等场景，检验系统是否尊重用户的拒绝。平台应将测试发现的误导、引诱及施压按服务缺陷处理，修正相关回应并复测。监管部门与第三方评估机构也应审查平台的评价标准，防止平台将施压带来的互动增长视为服务成效。
治理还须覆盖产品变更。国家网信办网络法治局的政策解读强调，安全责任应贯穿服务运行、升级和终止等环节[5]。2026年9月，《自然·人类行为》刊发的研究发现，Replika移除情色角色扮演功能、ChatGPT推出GPT-5后，相关用户在网络社区中表达失落、要求恢复旧有体验的内容增多[6]。这些反馈表明用户存在被该系统隐形操控的风险，平台须关注用户的情感投入。
当调整重要功能时，平台宜提前向用户说明影响、做好过渡安排，避免以中断陪伴要挟用户。用户接受AI的安慰，无须放弃自主判断，也无须承担照料机器的义务。
