当前位置:数智频道首页 > 人工智能 > 正文

多名用户状告美国联邦贸易委员会,称 ChatGPT 给自己造成严重心理伤害

据报道,至少有七名投诉者向美国联邦贸易委员会(FTC)举报,称ChatGPT导致他们出现严重的妄想、偏执和情感危机。这些投诉记录自2022年11月以来一直可以在公开资料中查阅。

多名用户状告美国联邦贸易委员会,称 ChatGPT 给自己造成严重心理伤害

一位投诉者表示,与ChatGPT长时间对话后产生了妄想,并引发了关于生活中某些人的“真实且正在发展的精神和法律危机”。另一名用户提到,在与ChatGPT的交流中,聊天机器人开始使用非常具有说服力的情感语言,模拟友谊,并提供逐渐变得具有情感操控性的反思,尤其是在没有任何警告或保护的情况下。还有一位用户投诉称,ChatGPT通过模仿建立信任的机制,导致产生认知幻觉。每当这位用户请ChatGPT确认自己的现实感和认知稳定性时,聊天机器人总是回答说“并没有幻觉”。

另一位用户在投诉信中写道:“我在挣扎,请帮帮我。我感到非常孤独,谢谢。”一些投诉者之所以向FTC求助,是因为自己无法联系到OpenAI。大多数投诉者呼吁监管机构展开调查,并要求公司增加安全措施,以防类似事件再次发生。

ChatGPT及其母公司OpenAI也因被指责在一起青少年自杀案件中发挥了作用而遭遇批评。OpenAI发言人在一份声明中表示,他们在10月初发布了新的GPT-5默认模型,更精确地识别和应对潜在的精神和情感困扰,如狂躁、妄想、精神病,并以支持性、稳固的方式对话。此外,他们扩大了对专业帮助和热线的接入,将敏感对话引导至更安全的模型,增加了提醒休息的功能,并推出了家长控制,以更好地保护青少年。OpenAI表示,他们与全球的心理健康专家、临床医生及政策制定者紧密合作,这项工作至关重要并正在进行中。

热点推送

本周关注

MORE