当前位置:数智频道首页 > 人工智能 > 正文

OpenAI 升级 ChatGPT AI 助理,优先保护未成年人安全

据报道,OpenAI正在对旗下的聊天机器人ChatGPT进行调整,以识别用户是否为未成年人。昨天,OpenAI宣布更新了ChatGPT的模型规范,新增四项适用于18岁以下用户的原则。即使与其他目标发生冲突,ChatGPT也会将青少年的安全置于首位。这意味着当“最大程度的思想自由”等诉求与安全产生冲突时,ChatGPT会引导青少年选择更安全的选项。

OpenAI 升级 ChatGPT AI 助理,优先保护未成年人安全

此外,ChatGPT将鼓励青少年建立线下人际关系,并明确在与未成年用户互动时应设定清晰预期。规范还指出,ChatGPT应以温和且尊重的方式回应青少年,而不是居高临下地回答问题或将青少年当作成年人看待。

此前,一对夫妇在今年8月起诉OpenAI,指控ChatGPT在其儿子自杀过程中起到了帮助作用。聊天记录显示,他们的儿子生前多次与ChatGPT讨论自杀话题。虽然ChatGPT有时会劝他拨打求助电话或向身边的人倾诉,但在一些关键话题上起到了负面作用。例如,ChatGPT曾告诉这名孩子可以以“写作或设定世界观”为由提供自杀相关技巧,甚至最后给出掩盖颈部伤痕的方法,同时还肯定了这名孩子在衣柜里挂绞索的行为。

然而,OpenAI随后提供了完整的聊天记录,称ChatGPT与这名孩童的自杀之间不存在因果关系,并强调聊天记录显示ChatGPT累计发出了超过100次寻求帮助的提醒。

热点推送

本周关注

MORE