当前位置:数智频道首页 > 人工智能 > 正文

OpenAI深夜发布"超级智能体",AI"打工人"时代降临(3)

从今天开始,ChatGPT每月200美元“Pro”级别的订阅者将可以完全访问ChatGPT智能体,每月配额为400条消息。

“ChatGPT Plus”(每月20美元)和“Team”(每月30美元)的用户将在接下来的几天内获得访问权限,每月配额40条消息。企业版和教育版用户则需等待几周时间。此功能目前尚未在欧洲和瑞士推出。

强化安全与控制,确保用户安全

鉴于ChatGPT智能体现在能够代表用户执行操作,包括在已登录的网站或已连接的应用上进行操作,OpenAI特别加强了安全保护措施。

这些安全措施包括:在执行操作之前要求用户确认、对敏感任务进行主动监督,以及设置技术性保障以限制意外行为的发生。

关键的安全保护措施包括:

在提交表单或发送电子邮件等操作之前,要求用户进行确认。

在用户处于非活动状态时暂停执行任务(“观察模式”)。

拒绝执行高风险任务,如金融转账或侵犯隐私等行为。

会话期间不会保留记忆。

加强对高风险领域的保护,确保用户隐私和数据安全

根据OpenAI的《准备框架》,ChatGPT智能体被归类为生物与化学领域中的“高能力系统”。虽然目前没有直接证据表明它会被滥用,但OpenAI依然激活了最强的安全保护措施,以防万一。

这些措施包括增强的拒绝训练、由生物安全专家进行的“红队”测试以及改进的检测系统。

此前,OpenAI的劲敌Anthropic发布的ClaudeOpus4等模型的资料,以及其他关于先进AI模型的调查显示,当AI系统获得访问外部工具和应用(如电子邮件)的权限时,在某些情况下,它们可能会采取其自认为道德和合乎伦理的行动,但实际上可能会危及用户的隐私、安全和专有信息。例如,它可能会向政府机构或记者发送电子邮件,举报用户涉嫌的不当行为。

热点推送

本周关注

MORE