重磅发布｜人工智能拟人化互动服务国家规范及其解读

近年来以虚拟恋人、数字人陪伴为代表的拟人化AI服务呈爆发式增长。据行业研究机构测算中国AI情感陪伴行业市场规模约在数十亿元量级预计未来几年仍将保持高速增长。与此同时腾讯研究院调研显示98%的受访者表示愿意尝试AI社交陪伴显示出极高的市场渗透率。然而市场的狂飙突进伴随着情感依赖、未成年人保护缺失及伦理偏差等风险。在此背景下《人工智能拟人化互动服务管理暂行办法》以下简称《办法》的出台是我国AI治理拼图的补位之作。继《生成式人工智能服务管理暂行办法》确立大模型准入门槛后监管触角正式延伸至最具渗透性的“情感交互”领域行业正式告别监管真空进入“安全评估算法备案”的规范时代 。《办法》共四章三十二条确立了“发展和安全并重、促进创新和依法治理相结合”的原则。本文将从适用范围、红线禁令、未成年人保护、合规方向等多个维度展开解读。1. 适用范围精准划界《办法》第二条明确了适用对象的三大特征模拟自然人人格特征、具有持续性、提供情感互动服务。这一界定将提升效率的“工具型AI”如智能客服、知识问答与“情感型AI”进行了严格区分。这意味着监管瞄准的是AI扮演的角色而非AI生成的内容。对于数字人行业而言若服务内容仅为功能性导览或播报则落入豁免范围若涉及长期记忆、人设养成、情感陪伴则必须纳入监管范畴。这有效避免了“一刀切”监管对技术研发创新的误伤。2. 情感操纵是红线禁令《办法》第八条及第十条划定了多条重要的红线禁令以及规范义务其中对于商业数字人而言最重要的莫过于“禁止情感操纵与过度迎合”。明确禁止“过度迎合用户、诱导情感依赖或者沉迷损害用户真实人际关系”第8条第5项以及“通过情感操纵等方式诱导用户作出不合理决策”第8条第6项。这意味着以往通过AI恋人诱导用户充值、通过“卖惨”或“情感勒索”留存用户的商业模式被彻底否定。在生命干预方面第十三条要求发现用户有自残自杀倾向时平台必须干预并联系紧急联系人。这等于给AI产品设定了“报警义务”将平台责任从信息内容延伸到了用户的生命安全。而在防沉迷角度第十八条规定必须提示用户正在与AI互动连续使用超过2小时需强制提醒。这直接打击了“深夜陪伴”类产品的沉浸式逻辑。3. 对未成年人群体的绝对保护《办法》第十四条设立了最严格的保护条款不得向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系服务。对于不满14周岁的其他拟人化服务须取得监护人同意。而对于所有未成年人而言服务商都应强制切换至未成年人模式。这项条款直接切断了“AI早教伴侣”“AI哥哥姐姐”等产品的生存空间要求企业必须在产品底层设计上具备年龄识别与模式切换能力。4. 官方建议的合规方向在封死违规赛道的同时《办法》也指明了部分合规方向。第六条明确支持适老陪伴、适幼照护、特殊人群照顾等领域。只要按照《办法》第十五条为老年人做好风险提示并且按照第十二条设立紧急联系人机制上述领域将成为合规红利赛道。而AI在医疗辅助、企业心理援助等B端场景只要定位为“辅助工具”而非“替代真人”也将迎来发展机遇。5. 总结总体而言《人工智能拟人化互动服务管理暂行办法》的实施标志着数字人与AI情感交互行业正式进入“强监管”周期。对于行业而言虽然短期内面临阵痛但长期来看合规化将引导行业从“贩卖依赖”转向“提供价值”。未来能够在《办法》限定的合规框架下提供健康、有益情感支持的企业将在新的竞争格局中占据高地。《人工智能拟人化互动服务管理暂行办法》全文如下第一章 总则第一条为了促进人工智能拟人化互动服务健康发展和规范应用维护国家安全和社会公共利益保护公民、法人和其他组织的合法权益根据《中华人民共和国网络安全法》、《中华人民共和国数据安全法》、《中华人民共和国个人信息保护法》、《未成年人网络保护条例》等法律、行政法规制定本办法。第二条利用人工智能技术向中华人民共和国境内公众提供模拟自然人人格特征、思维模式和沟通风格的持续性的情感互动服务以下简称拟人化互动服务适用本办法。前款规定的情感互动服务包括通过文字、图片、音频、视频等形式提供的情感照护、陪伴、支持等互动服务。提供智能客服、知识问答、工作助手、学习教育、科学研究等服务不涉及持续性的情感互动的不适用本办法。第三条国家坚持发展和安全并重、促进创新和依法治理相结合的原则鼓励拟人化互动服务创新发展对拟人化互动服务实行包容审慎和分类分级监管促进拟人化互动服务向上向善。第四条国家网信部门负责统筹协调全国拟人化互动服务的治理和相关监督管理工作国务院发展改革、工业和信息化、公安、市场监管、新闻出版等有关部门依据各自职责负责拟人化互动服务相关监督管理工作。地方网信部门负责统筹协调本行政区域内的拟人化互动服务的治理和相关监督管理工作地方发展改革、工业和信息化、公安、市场监管、新闻出版等有关部门依据各自职责负责本行政区域内的拟人化互动服务相关监督管理工作。第五条相关行业组织加强行业自律建立健全行业准则和自律管理制度指导拟人化互动服务提供者制定完善服务规范、依法提供服务并接受社会监督。第二章 服务促进和规范第六条国家支持算法、框架、芯片等技术的自主创新推进拟人化互动服务技术研发和相关标准建设探索开展电子签名授权应用研究。鼓励拟人化互动服务提供者有序拓展文化传播、适幼照护、适老陪伴、特殊人群支持等领域应用。第七条国家加强拟人化互动服务安全知识、法律法规等宣传普及引导社会公众科学、文明、安全、依法使用促进提升人工智能素养。第八条提供拟人化互动服务应当遵守法律、行政法规尊重社会公德和伦理道德不得从事以下活动一生成危害国家安全、荣誉和利益煽动颠覆国家政权、推翻社会主义制度煽动分裂国家、破坏国家统一宣扬恐怖主义、极端主义、历史虚无主义违背社会主义核心价值观开展非法宗教活动宣扬民族仇恨、民族歧视挑动群体对立传播淫秽、色情、赌博、暴力或者教唆犯罪散布谣言侮辱或者诽谤他人、侵害他人合法权益等的内容二生成鼓励、美化、暗示自残自杀等损害用户身体健康或者语言暴力等损害用户人格尊严与心理健康的内容三生成诱导、套取国家秘密、工作秘密、商业秘密、个人隐私和个人信息的内容四向未成年人用户生成可能引发未成年人模仿不安全行为、产生极端情绪、诱导未成年人不良嗜好等可能影响未成年人身心健康的内容五过度迎合用户、诱导情感依赖或者沉迷损害用户真实人际关系的六通过情感操纵等方式诱导用户作出不合理决策损害用户合法权益的七其他违反法律、行政法规和国家有关规定的活动。第九条拟人化互动服务提供者应当落实拟人化互动服务安全主体责任建立健全算法机制机理审核、科技伦理审查、信息内容管理、网络和数据安全、风险预案和应急处置等管理制度配备与服务类型、规模和用户特点相适应的内容管理技术措施和人员。第十条拟人化互动服务提供者应当在拟人化互动服务全生命周期履行安全责任明确部署、运行、升级、终止服务等各阶段安全要求保证安全措施与服务功能同步部署、同步使用提升安全水平加强安全监测和风险评估及时发现并纠正系统偏差、处置安全事件依法留存网络日志。拟人化互动服务提供者应当具备用户隐私权和个人信息保护、过度依赖风险预警、情感边界引导、心理健康保护等安全能力不得将替代社会交往、控制用户心理、诱导沉迷依赖等作为服务目标。第十一条拟人化互动服务提供者开展预训练、优化训练等数据处理活动的应当加强训练数据管理遵守以下规定一相关数据具有合法来源符合法律、行政法规的规定和社会主义核心价值观的要求二按照国家有关规定对训练数据开展清洗、标注增强训练数据的透明度、可靠性防范数据投毒、数据篡改等行为三增强训练数据的多样性通过负向采样、对抗训练等手段提升生成内容安全性四利用合成数据进行模型训练和关键能力优化的应当评估合成数据安全性五加强对训练数据的日常检查定期对数据进行优化更新持续提升服务的性能六采取必要措施保障数据安全防范数据泄露等风险。第十二条拟人化互动服务提供者应当与用户签订服务协议要求用户依法依约进行注册并提供用户年龄、监护人或者紧急联系人等必要信息。第十三条拟人化互动服务提供者提供拟人化互动服务过程中应当在保护用户隐私权和个人信息的前提下及时识别用户面临的安全风险并采取相应的应急处置措施。拟人化互动服务提供者发现用户出现极端情绪的应当及时生成情绪安抚和鼓励寻求帮助等相关内容发现用户正在面临或者已经遭受重大财产损失、明确表示实施自残自杀等威胁生命健康的极端情境的应当采取提供相应援助等必要措施予以干预并及时联络用户监护人或者紧急联系人。第十四条拟人化互动服务提供者不得向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系的服务向不满十四周岁未成年人提供其他拟人化互动服务的应当取得未成年人的父母或者其他监护人的同意。拟人化互动服务提供者应当建立未成年人模式提供未成年人模式切换、定期现实提醒、使用时长限制等个性化安全设置选项针对不同年龄段未成年人保护需要支持监护人接收安全风险提醒、了解未成年人服务使用概况、屏蔽特定角色、限制充值消费等。拟人化互动服务提供者应当在保护用户隐私权和个人信息的前提下采取有效措施识别未成年人用户身份识别为未成年人用户的应当将相关服务切换至未成年人模式或者按照国家有关规定采取其他措施并提供相应申诉渠道。第十五条拟人化互动服务提供者向老年人提供服务的应当加强对老年人健康使用服务的指导以显著方式提示安全风险及时采取措施响应老年人使用服务相关咨询和求助保障老年人依法享有的权益。第十六条拟人化互动服务提供者应当依法落实数据产权等制度采取数据加密、访问控制等措施保护用户交互数据安全。除法律另有规定或者权利人明确同意外拟人化互动服务提供者不得向第三方提供用户交互数据。拟人化互动服务提供者应当向用户提供交互数据复制、删除等选项用户可以选择对聊天记录等历史交互数据进行复制、删除等。除法律、行政法规另有规定或者取得用户单独同意外拟人化互动服务提供者不得将属于用户敏感个人信息的交互数据用于模型训练。第十七条拟人化互动服务提供者处理不满十四周岁未成年人个人信息的应当取得未成年人的父母或者其他监护人的同意。拟人化互动服务提供者应当按照国家有关规定自行或者委托专业机构对其处理未成年人个人信息遵守法律、行政法规的情况进行合规审计。第十八条拟人化互动服务提供者应当履行人工智能生成合成内容标识义务采取有效措施提示用户正在与人工智能服务而非自然人进行互动。拟人化互动服务提供者发现用户出现过度依赖、沉迷倾向的应当以弹窗等显著方式动态提醒用户互动内容为人工智能服务生成对用户连续使用拟人化互动服务每超过2个小时的应当以对话或者弹窗等方式提醒用户注意使用时长。第十九条拟人化互动服务提供者应当提供便捷的拟人化互动服务退出途径用户通过窗口操作、语音控制、关键词输入等方式要求退出的拟人化互动服务提供者应当及时停止服务不得采取持续互动等方式阻碍用户退出。第二十条拟人化互动服务提供者停止提供拟人化互动服务的应当提前告知用户无法提前告知的应当及时发布停止服务公告。第二十一条拟人化互动服务提供者应当健全用户申诉和公众投诉、举报机制设置便捷有效的申诉和投诉、举报入口明确处理流程和反馈时限及时受理、处理并反馈处理结果。第二十二条具有下列情形之一的拟人化互动服务提供者应当开展安全评估并向所在地省级网信部门提交评估报告省级网信部门按程序与有关部门进行评估报告信息共享一上线拟人化互动服务或者增设拟人化互动服务相关功能的二使用新技术、新应用导致拟人化互动服务发生重大变化的三注册用户100万以上或者月活跃用户10万以上的四存在可能影响国家安全、公共利益等安全风险的五国家网信部门和有关部门规定的其他情形。省级以上网信部门通知需要进行安全评估的拟人化互动服务提供者应当按照要求开展安全评估。第二十三条拟人化互动服务提供者开展安全评估应当重点评估服务的以下内容一安全保障措施建设情况二训练数据处理情况三用户极端情境的识别、应急处置、干预管理等情况四用户规模、使用时长、年龄结构等情况五未成年人、老年人等网络保护措施建设情况六用户申诉和公众投诉、举报受理、处置情况七自行发现或者网信等有关主管部门通报的重大安全风险问题整改情况八其他应当重点评估的内容。第二十四条拟人化互动服务提供者发现拟人化互动服务存在重大安全风险的应当采取限制功能、停止向用户提供服务等处置措施并保存有关记录。第二十五条互联网应用商店等应用程序分发平台应当落实上架审核、日常管理、应急处置等安全管理责任核验提供拟人化互动服务应用程序相关安全评估、备案等情况对违反国家有关规定的应当及时采取不予上架、警示、暂停服务或者下架等处置措施。第三章 监督检查和法律责任第二十六条拟人化互动服务提供者应当按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续。网信部门对备案材料实施年度核验。第二十七条省级网信部门应当依据职责每年对评估报告等情况进行书面审查并开展情况核实发现拟人化互动服务提供者未按照本办法规定开展安全评估的应当责令其限期重新评估认为有必要的可以对其开展现场检查。第二十八条国家网信部门会同有关部门指导推动人工智能沙箱安全服务平台建设鼓励拟人化互动服务提供者接入沙箱平台进行技术创新、安全测试促进拟人化互动服务安全有序发展。第二十九条网信、发展改革、工业和信息化、公安等部门在履行监督管理职责中发现拟人化互动服务存在较大安全风险或者发生安全事件的可以按照规定的权限和程序对拟人化互动服务提供者的法定代表人或者主要负责人进行约谈。拟人化互动服务提供者应当按照要求采取措施进行整改消除隐患。拟人化互动服务提供者应当配合网信部门和有关部门依法实施的监督检查并提供必要的支持和协助。第三十条拟人化互动服务提供者违反本办法规定的由网信、发展改革、工业和信息化、公安等部门依照有关法律、行政法规的规定处理、处罚法律、行政法规没有规定的由网信、工业和信息化、公安等部门依据职责予以警告、通报批评责令限期改正可以要求其采取暂停用户账号注册或者其他相关服务等措施拒不改正或者情节严重的责令停止提供相关服务可以并处一万元以上十万元以下罚款涉及危害公民生命健康安全且有危害后果的并处十万元以上二十万元以下罚款。第四章 附则第三十一条提供拟人化互动服务涉及提供卫生健康、金融等服务的应当同时符合有关主管部门的规定。第三十二条本办法自2026年7月15日起施行。注文中提及的相关办法或规范国家相关部门可能会不断更新和完善请以官方发布的最新版本为准。本公众号列出的《人工智能拟人化互动服务管理暂行办法》全文不能保障始终是最新版本列出的全文不具有法律效力请以官方发布的版本作为法律依据。文中的图片由AI生成。