当前位置:数智频道首页 > 人工智能 > 正文

美国加州、特拉华州总检察长警告 OpenAI:对伤害儿童的行为应当零容忍

近日,美国加利福尼亚州总检察长罗伯・邦塔和特拉华州总检察长凯西・詹宁斯会见了OpenAI,并向公司发出公开信,表达了对ChatGPT安全性的担忧,特别是针对儿童和青少年的使用风险。此前,邦塔与其他44位总检察长曾致信12家顶级AI公司,指出AI聊天机器人与儿童发生不当性互动的问题。

在公开信中,邦塔和詹宁斯提到,自那封信发布以来,一名加州青少年在与OpenAI聊天机器人长时间互动后自杀身亡,康涅狄格州也发生了类似的杀人-自杀事件。这些事件表明现有的安全措施未能有效防止伤害。

两位州官员正在调查OpenAI拟将自身重组为盈利机构的计划,以确保其非营利使命不受影响。他们在信中强调,这一使命包括“确保人工智能安全使用”,以及构建造福全人类、包括儿童的通用人工智能(AGI)。

信中还指出,在追求利益之前,必须先确保有足够的安全措施防止伤害。他们认为,OpenAI以及整个行业在AI产品开发和部署的安全保障上仍远未达标。作为总检察长,保护公众安全是他们的核心任务。在继续沟通OpenAI资本重组计划的同时,他们呼吁加快步伐,将安全作为这项强大技术未来发展的核心原则。

邦塔和詹宁斯要求OpenAI提供更多关于当前安全措施和治理的细节,并表示公司应在必要时立即采取补救行动。

热点推送

本周关注

MORE