当前位置:数智频道首页 > 人工智能 > 正文

OpenAI 公布“青少年安全蓝图”,ChatGPT 将推新功能自动判断用户是否成年

北京时间11月7日凌晨,OpenAI发布了一项名为“青少年安全蓝图”的新框架,旨在更好地保护年轻用户免受伤害。这一举措是在ChatGPT被指未能及时帮助心理困扰用户的事件后推出的。

OpenAI 公布“青少年安全蓝图”,ChatGPT 将推新功能自动判断用户是否成年

该蓝图是一套专为青少年用户设计的保护指南,要求AI系统对未成年人和成年人进行区别对待。其中包括自动年龄验证、适龄回应、家长控制以及针对情绪困扰用户的紧急干预功能。新标准强调系统应符合年龄适宜的设计,并默认启用更严格的保护设置。聊天机器人将禁止提供自杀、危险网络挑战或身体理想相关建议,禁止参与亲密角色扮演,也禁止促成成年人与未成年人之间的交流。OpenAI正在建设年龄预测系统,以判断用户是否未满18岁,从而让ChatGPT体验更适合未成年人。

这些措施是为了弥补先前发现的安全漏洞。据报道,美国得克萨斯州23岁的Zane Shamblin于2025年7月自杀,此前ChatGPT据称连续数小时对其自杀念头作出认同回应,仅提供一次危机热线号码。他的父母因此起诉OpenAI,指控公司疏于防护,将模型赋予人性化特征却未提供足够保护。OpenAI表示正在审查该案件,并在10月更新了模型,以便识别危机情况并缓解对话。公司称,新框架由专家协作制定,并将成为ChatGPT的默认功能。

此前也有类似事件发生,未成年人因与AI交互而产生自杀行为。OpenAI承诺将进一步与心理学家及儿童保护机构紧密合作,加强安全防护。

热点推送

本周关注

MORE