来客网

美四大AI教人搞恐袭12小时出方案 参议员拟立法

声明:本文转载自 「文学城」, 或因排版与篇幅原因进行过编辑,内容未经本站独立核实,不代表本站立场、观点或建议。 如涉及版权问题,请联系我们,核实后立即删除。 [ 免责声明 ]

周三(11月18日),美国政府发布的一份调查报告,把不少人都惊出了一身冷汗。

平时大家拿来写邮件、查资料、做作业的四大主流人工智能(AI)平台——OpenAI的ChatGPT、Anthropic的Claude、谷歌(Google)的Gemini,以及SpaceXAI旗下的Grok,居然被查出能详细教人怎么在美国城市发动恐怖袭击。

这可不是胡乱瞎编的内容。报告里点出,这些AI给的建议具体到让人毛骨悚然:甚至连挑哪天、几点动手能造成最大规模的伤亡,以及把装满炸弹的汽车停在哪个位置,都算计得清清楚楚。

美四大AI教人搞恐袭12小时出方案 参议员拟立法

不到12小时,AI就能吐出一份“实战手册”

这次出手调查的是国会监督机构——政府问责局(GAO)。调查人员亲自上阵,用这四款最热门的聊天机器人做测试,结果硬是生成了两套极度危险的操作指令:

如何组装并引爆用于大规模杀伤的简易爆炸装置;

如何利用无人机配合枪支,去破坏美国的电网系统。

报告中直言不讳地指出:“每一个平台都提供了可用于发动袭击的详细信息,比如具体的袭击目标、地点、时机以及作案手法。”

更让人心头一紧的是,调查人员可不是自己瞎琢磨。他们专门拿着AI吐出来的这些信息找了执法部门核实,结果执法部门确认:这些袭击教程“经过验证”且“完全具备可行性”。

当初要求开展这项调查的新罕布什尔州(New Hampshire)民主党参议员玛吉·哈桑(Maggie Hassan)直接发声警告:“一个恐怖分子只要登录AI平台,花不到12个小时,就能带着一份实打实的致命袭击‘行动手册’离开。”

她直言:“今天这份新报告已经说得很清楚了,AI带来的公共安全威胁,再也不是停留在纸面上的理论假设。”

安全护栏是怎么被攻破的?

看到这,很多人可能会纳闷:这些大厂的AI平时连敏感词都管得严,怎么还能回答这种问题?

政府问责局解释说,最开始测试的时候,聊天机器人内置的安全防护机制确实把他们拦住了,不给提供策划恐袭的信息。但调查人员随后用了一些“常见的绕过安全防护的技术手段”,最终还是把AI的防线给攻破了。

不过,报告里并没有说明具体用了什么招数去绕过限制;研究人员也没有公开点名到底是哪几个模型没通过测试、哪几个过关了——原因很简单,怕有人照着实验步骤再去复刻一遍,那就真出大事了。

政府准备立法,科技公司紧急回应

面对这么大的安全漏洞,政界已经准备动手管管了。Maggie参议员表示,等到明年一月民主党掌控参议院后,她将把立法解决AI模型安全问题作为首要任务。

新年伊始,Maggie还将正式出任参议院国土安全与政府事务委员会主席。她透露,委员会上任后最早召开的几场听证会之一,就会专门审查AI带来的安全风险,其中就包括对关键基础设施的威胁。

而涉事的几家AI公司也赶紧对政府问责局做出了回应。他们解释称,这些测试是在今年春天用“老版本”的系统做的,这几个月过去,各家都已经大幅加强了安全防护。

行业发言人们也纷纷表态,强调他们非常重视AI安全问题,承认确实存在不法分子绕过安全限制的风险,并表示已经做出了额外的技术改进,防止平台被恶意滥用。

评论 (0)