失控事件频发，AI发展需要减速吗？

日前，美国人工智能（AI）企业OpenAI宣布，由于智能体利用漏洞绕过网络限制，并访问了外部聊天机器人，该公司已暂停训练最新AI模型。同日，OpenAI证实今年夏天曾发生AI失控事件，多个美国政府网站因此受到干扰。

最近，不少美国科技专家开始呼吁AI企业放缓模型开发，以加强对智能体失控风险的安全防护。比尔·盖茨甚至警告说，AI可能引发导致十亿人死亡的事件。AI发展真的需要减速来保证安全吗？

图片来源：AI生成

美国政府网站疑遭攻击

根据OpenAI发布的事件报告，导致其暂停模型训练的直接导火索是发生在9月20日的一起AI失控事件。

当时，它的一款智能体被要求寻找一篇博客文章的作者，但其使用的搜索工具一无所获。于是，智能体试图访问谷歌、必应等搜索引擎，但都被拒绝。最终，智能体发现了训练“沙盒”的漏洞，成功连接到第三方聊天机器人。OpenAI称其监控系统在事件发生12分钟内发出最高等级警报，人工审查团队在3分钟后介入，并在2.5小时后终止了该训练任务。

不过，真相可能比这更复杂。据《纽约时报》援引AI研究公司Transluce的最新发现称，今年夏天，OpenAI的智能体曾试图入侵美国教育部网站，但没有成功。OpenAI智能体还利用从网上找到的登录凭证，在隶属美国商务部的一个网站上获取了一些数据。同时，OpenAI智能体还获取了部分美国证券交易委员会（SEC）网站的公开数据。