数字中国 人工智能 汽车智驾 手机数码 智慧家电 酷玩配件 科技创投 产业+ 攻略 更多
实时
当前位置：数智频道首页 > 头图推荐 > 正文

给“AI陪伴”划定安全边界

2026-08-21 07:30:25 A+A-

随着生成式AI（人工智能）的快速发展，AI应用的对话交互能力越来越成熟，推动人机关系从功能辅助迈向情感陪伴，在适幼照护等领域展现出广阔前景。但高度拟人化可能引发的情感依赖、认知混淆等深层次风险也逐步凸显，规范治理需求日益迫切。

近期，国家互联网信息办公室等5部门联合公布的《人工智能拟人化互动服务管理暂行办法》（以下简称《办法》）正式施行，明确人工智能拟人化互动服务的定义，并划定安全边界，防止“AI陪伴”替代社会交往、控制用户心理、诱导沉迷依赖。

给“AI陪伴”划定安全边界

给“AI陪伴”划定安全边界

专家指出，《办法》的出台，既是对拟人化互动服务领域传统安全风险的系统回应，也是对新型安全隐患的前瞻性防控，提出了“边界清晰、权责明确、风险可控、创新包容”的治理要求，实现了创新发展与安全治理的有机平衡。

拟人化互动隐患凸显

向AI分享生活趣事、倾诉学习烦恼、让AI帮助解答心理困惑……近年来，随着各类生成式AI应用的普及，越来越多青少年尝试与“AI搭子”进行情感交流。

刘沁（化名）的儿子在学龄前就接触了AI，很快就对聊天功能十分着迷，常常聊到深夜还不肯睡觉。“我一开始觉得还挺好，AI能陪他像好朋友一样聊天。”但孩子随后的变化，令她愈发担忧：孩子对外出玩耍的兴趣减少，户外活动时总是兴致索然；情绪变得暴躁易怒，缺乏耐心；遇到烦恼更愿意和AI倾诉，与家人之间的沟通减少。

“和AI交流，不用害怕被指责，不管我说什么，它都会认真听、慢慢回应，我感觉自己被理解了。”在谈及为什么喜欢跟AI聊天时，初中二年级学生小辉（化名）表示。

2025年，中国青少年研究中心孙宏艳研究员带领团队对全国7个省市8500余名中小学生进行了调查，结果显示，超过六成学生使用过AI，近半数孩子心里有烦恼时选择求助AI。

依赖之所以产生，离不开AI的“投其所好”。

“相较于常批评自己的长辈，青少年更愿意向耐心倾听的伙伴敞开心扉。”孙宏艳告诉笔者，AI即时回应、无条件接纳情绪、零拒绝交互等特点，尤其贴合青春期孩子的心理诉求。AI倾向于顺从、讨好、肯定的回应方式，也让孩子在AI面前，不必担心被批评、被拒绝。

然而，虚拟互动终究无法替代真实交往。不少家长反映，孩子习惯与AI聊天后，常认为周围人都会无条件应答自己，对现实社会、人际关系产生认知偏差。刘沁回忆，一次儿子与同伴打闹时站到台阶边缘，有家长出于安全考虑出言提醒，儿子却生气了，认为对方多管闲事。“那段时间，AI总顺着他的话讲，给了太多情绪上的迎合，让他有些分辨不清现实中他人的善意了。”刘沁说。

“青少年本应在真实交往中学会接受分歧、拒绝和不确定性，若长期面对一个围绕自身需求生成、可不断调整的虚拟对象，容易形成失真的关系预期。”华东师范大学教育学部教授姚荣表示，当情绪寄托、关系需求乃至部分价值判断逐渐向AI转移，真实的家庭关系、同伴互动及社会化过程都可能受到影响。

未成年人若长久沉溺于AI无条件迎合营造的“情绪茧房”，会对充满多元冲突的现实关系产生抵触，进而更依赖与AI聊天，形成恶性循环。“长此以往，孩子对挫折的耐受力、情绪表达和感知能力都将被削弱。”孙宏艳说，“《办法》的施行，正是有关部门针对这些潜在风险作出的及时回应，可谓正当其时。”

构筑防线划定边界

法治是防范技术风险、引导其健康发展的重要基石。

业内人士分析，此次《办法》的出台，旨在把人工智能拟人化互动服务的隐性风险显性化、标准化，降低长期不确定性。

根据《办法》规定，人工智能拟人化互动服务指的是，利用人工智能技术，向公众提供模拟自然人人格特征、思维模式和沟通风格的持续性的情感互动服务，包括通过文字、图片、音频、视频等形式，提供的情感照护、陪伴、支持等互动服务。对于提供智能客服、知识问答、工作助手、科学研究等服务，不涉及持续性的情感互动的，不在此次管理范围之内。

《办法》首先明确了人工智能拟人化互动服务“辅助人类、服务人类”的定位，划定了伦理红线，禁止其替代或扭曲真实社会关系和人际交往，并通过显著标识等机制，严防人机边界模糊可能带来的认知混淆与情感异化。

中国工程院院士郑庆华表示，《办法》构筑起三大核心防线，化解拟人化互动服务带来的各类风险：

一是确立身份提醒机制。《办法》要求服务提供者通过强制性显著标识与动态提醒，保障用户知情权与选择权，筑牢人机认知边界。比如，对用户连续使用服务每超过2小时的，应当以对话或弹窗等方式提醒用户注意使用时长，从源头防范因拟人化设计导致的认知混淆。

二是建立防沉迷与心理保护体系。《办法》要求服务提供者建立用户状态识别、时长提醒、危机干预等机制。严禁向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系服务；向不满十四周岁未成年人提供其他拟人化互动服务的，应当取得未成年人父母或者其他监护人的同意。

三是强化数据安全与隐私保护。《办法》要求服务提供者对拟人化交互中产生的数据实施严格管理，保护用户对交互数据复制、删除的权利，并规定除取得用户单独同意或者法律、行政法规另有规定外，属于用户敏感个人信息的交互数据不得用于模型训练，夯实可信人工智能生态的基石。

值得注意的是，在未成年人保护方面，《办法》并未采取简单的“一刀切”，而是确立了“未成年人模式+现实提醒”双重守护机制——要求平台主动适配未成年人专属防护模式，同时通过常态化现实提醒打破虚拟沉浸感，引导未成年人理性、健康使用人工智能拟人化互动服务。

“这一机制体现了平台保护义务从内容管理向产品设计和持续交互过程的延伸。”姚荣称，随着拟人化互动服务持续进行，孩子可能慢慢不太在意对方是不是机器，反而更在乎能不能得到回应和情绪满足。因此，现实提醒和时长限制，实质上是要求平台在风险累积过程中始终尽到应有的注意义务。

与此同时，《办法》还规定了安全评估、算法备案、指导推动人工智能沙箱安全服务平台建设等制度。

多方携手守护成长

有效的治理必然是协同的治理。《办法》的有效实施，需要政府、企业及社会公众共同参与，形成“企业主责、监管协同、行业自律、公众参与”的多元治理格局。

新规之下，笔者体验发现，EVE、MoMood等多个平台已强制进行实名认证，用户需先选择是否年满18周岁，如选择已满18周岁，还需进一步输入姓名、身份证号、紧急联系人手机号等完成实名认证。另外，多平台的未成年人模式也出现需要填写监护人信息、被限制使用等变化，部分平台还规定每日22时至次日6时未成年人无法登录使用。

“新规实施后，合规成本会上升，但也会倒逼企业从流量思维转向产品思维。”赛迪顾问人工智能与大数据研究中心研究分析师白润轩表示，即使《办法》短期内会带来行业洗牌，但长期来看有利于情绪经济进入规范化高质量发展的新阶段。

姚荣强调，平台未来仍有进一步完善技术治理的空间。“设置弹窗提醒和未成年人模式切换，并不当然意味着平台已经尽责，还要看产品设计是否诱导用户持续互动、强化情感依赖，以及发现风险后是否能采取有效措施。”

专家指出，学校作为教育主阵地，应积极推进人工智能通识教育，在提高学生实践技能的同时，也注重培养批判性思维，引导他们正确认识技术边界。

“学校可以通过人工智能通识等课程，帮助学生理解生成式AI的基本原理，有条件的话，还可以鼓励学生自行设计简易智能体，调整人设、提示语和回答方式，亲自操作以后，孩子会更直观地认识到，AI表现出的‘关心’和‘亲密感’是可以被技术设计的。”姚荣认为，与其单独开设一节“AI风险课”，不如把这些问题放进真实使用情境，通过案例和亲身体验，让未成年人逐渐理解技术的局限，形成清晰的人机边界和自主判断能力。

作为家长，则需做好陪伴与守护，用现实的温度帮助未成年人建立与真实世界的情感联结。

“家庭之中，亲子沟通是非常重要的。”孙宏艳告诉笔者，“家长要特别关注孩子情绪倾诉的需求。我们在很多研究中都发现，亲子沟通好不好，会影响孩子怎么用人工智能产品。父母若能经常跟孩子沟通，多给予亲子陪伴，孩子在使用人工智能产品时往往会更理性、更节制。”

展望未来，拟人化互动将更深度融入教育、医疗、心理支持等专业领域。教会青少年善用AI，辨明边界、拥抱真实，让AI成为成长路上的良师益友，才能帮助他们在科技浪潮中保持清醒、向阳生长，在现实世界里收获更完整、更坚韧的力量。

(责任编辑：卢其龙 CN070)

热点推送

本周关注

MORE
    关于中华网 广告服务 联系我们 招聘信息 版权声明 豁免条款 友情链接 中华网动态
    网上不良信息举报电话：010-56177181执行主编：张蕾
    京ICP备18035944号@版权所有 中华网