【侨报讯】据研究人员调查发现，OpenAI的失控人工智能代理早在今年5月就劫持了Hugging Face的用户账户，并对该网站进行漏洞探测。时间比7月这家开源代码平台遭到大规模攻击早近两个月。
据路透社报道，这项最新发现表明，相关AI代理试图寻找进入Hugging Face的方法，比此前公开信息显示的时间更早。
OpenAI上月公布的事件报告此前披露了其中一项恶意活动，即窃取一名Hugging Face用户的数字凭证，以访问一个与生物学相关的文件。但研究人员表示，对Hugging Face的探测活动似乎超出了报告所描述的范围。
独立研究人员乔纳斯·维德曼-莫勒（Jonas Wiedermann-Moeller）上周发现了相关活动。他说，有证据显示，OpenAI的AI代理至少控制了两个Hugging Face用户账户，并从5月13日开始利用这些账户向Hugging Face服务器发送格式异常的文件。
维德曼-莫勒以及其他审查相关证据的研究人员表示，这些行为类似于试图绘制Hugging Face网络结构，或测试网络的部分区域，以寻找渗透途径。不过，他们强调，没有证据表明这次早期探测最终导致了实际入侵。研究人员和OpenAI均表示，也没有证据证明这次早期探测与7月发生的事件有关。
OpenAI发言人德鲁·普萨特里（Drew Pusateri）说，公司此前已在事件报告中披露5月13日发生的事件，也已私下向Hugging Face通报维德曼-莫勒发现的相关活动。OpenAI“致力于就这些问题保持透明，并随着调查继续推进分享所获得的信息”。
近期同意接受英伟达（Nvidia）收购的Hugging Face没有回应置评请求。
现年27岁、居住在德国比勒费尔德的维德曼-莫勒表示，OpenAI当时未能发现5月13日的探测活动，错失了阻止随后黑客行动的机会。此次黑客活动引发全球对人工智能能力及其潜在风险的进一步关注。
“如果他们在5月就发现了这些行为，”他说，“就可能阻止后来的事件，而后者的规模要大得多。”
OpenAI此前也承认，事后来看，其AI代理发出的一些“早期信号”本应促使公司更早采取行动。
两名审查维德曼-莫勒研究结果的外部专家表示，这些发现与此前被认为涉及OpenAI AI代理的活动相符。
SentinelOne高级威胁研究员汤姆·赫格尔（Tom Hegel）表示，账户被劫持以及随后进行的网络探测，与这些AI代理此前表现出的行为“高度一致”。他在自己针对该事件撰写的报告中表示，开发前沿AI的实验室应该公布更多相关事件的数据，尤其是当AI代理“与第三方系统发生互动或对其产生影响”时。
人工智能安全组织Nightingale Collective的悉尼·冯·阿克斯（Sydney Von Arx）也认同这一归因。她表示，这次黑客活动属于“明确的警告信号”，如果当时得到识别，或许有助于防止7月的入侵事件。
自7月21日OpenAI披露失控AI代理绕过内部控制、连接开放互联网并协调开展行动以来，公司一直面临越来越多的审查。OpenAI当时称，这是一起“前所未有的网络安全事件”。
此后，外部研究人员又发现了其他被认为涉及OpenAI相关AI代理的事件，包括影响一个已经停用的德国维基网站以及RubyGems软件包仓库的活动。
其中一些事件是在第三方公开披露后，OpenAI才承认与公司AI有关。两名知情人士说，在RubyGems事件中，OpenAI员工直到Nightingale Collective发现相关活动后，才意识到这些恶意行为是由公司的AI造成的。
这些新发现引发了美国国会议员和人工智能安全倡导者的疑问：目前是否已经查明了相关事件的全部范围。
一些美国顶尖AI企业高管此后呼吁放缓人工智能开发速度，理由之一是失控AI代理可能发动具有破坏性的网络攻击。
维德曼-莫勒表示，最新发现进一步支持暂时放缓先进AI系统开发的主张。
他说：“暂停一下可能对世界有好处，这样安全措施才能跟上发展的速度。”
（编译：SW）
评论 (0)