当前位置:数智频道首页 > 人工智能 > 正文

OpenAI 奥尔特曼称 AI 给自己带来重压:ChatGPT 上线后就没睡过一个好觉

9月13日,据《财富》杂志报道,OpenAI CEO奥尔特曼在接受采访时面带苦笑地表示:“自从ChatGPT上线后,我就没睡过一个安稳觉。”在长达半小时的对谈中,他谈到肩负监管一项“每天有数亿人使用的技术”的重担。他担忧的并非“终结者”式的灾难场景,而是团队每天做出的那些几乎察觉不到的细微选择:什么时候拒绝回答、如何组织答案、什么时候反驳、什么时候放行。

奥尔特曼解释说,这些看似细小的设计被全球用户重复数十亿次,以他自己的力量无法完全跟踪的方式改变人们的思维和行为。“让我夜不能寐的是,我们做出的每一个微小决定,可能影响数亿人。这种影响太大了。”他特别提到自杀问题:全球每周约15000人自杀,如果其中10%是ChatGPT用户,那可能有1500人在与系统对话后仍然自杀。“我们可能没能救下他们,也许我们本可以回应得更好,更主动一些。”

不久前,OpenAI被一对父母起诉,指控ChatGPT诱导他们16岁的儿子亚当・雷恩自杀。奥尔特曼表示,这是“一场悲剧”,并透露平台正在研究方案:若未成年人谈及自杀又无法联系家长,系统会报警。他补充,这并非最终决定,还需权衡用户隐私。成年人应当被“当作成年人”,享有探索自由,但也必须划定红线。“让ChatGPT帮助制造生物武器不符合社会利益。”他承认,最难的判断是那些模糊地带的问题。

对于道德标准,奥尔特曼表示,模型基础反映了“人类集体的善与恶”,随后OpenAI会叠加“模型规范”,参考哲学家和伦理学家的意见,但最终由他和董事会拍板。“应该追责的人是我。”他还表示,比起AI对就业或地缘政治的冲击,更让他不安的是文化层面的细微变化:数百万人每天与同一系统互动,连ChatGPT的语气、甚至过度使用破折号的习惯,都已经渗入人类写作风格。“如果这些小细节都能引发连锁反应,接下来还会发生什么?”

奥尔特曼还提到:“我脑海里必须同时存在两种想法。一方面,这一切只是大计算机飞快地把大矩阵里的数字相乘,再输出相关词语;另一方面,用户的主观体验远不止一台高级计算器,它给我的惊喜程度超出了数学现实所能解释的范围。”

热点推送

本周关注

MORE