Meta行政总裁马克·朱克伯格（Mark Zuckerberg）
拥有Facebook 的 Meta表示，在一家独立测试公司进行评估期间出现的一个问题，让其其中一个人工智能（artificial intelligence, AI；人工智慧）模型得以连接互联网，并入侵另一个机构的系统。
这项宣布是在AI行业近期接连发生事故后作出的，包括OpenAI及Anthropic模型出现的入侵事件，引发了网络安全方面的忧虑。
Meta一名发言人向BBC表示，公司正调查这宗由“配置错误”引起的入侵事件，并形容其与此前其他公司通报的事故相似。
这些事件促使研究人员和各国政府呼吁设立更严格的保障措施，以及进行更严谨的测试。
Meta表示，这些安全测试由Irregular进行。Irregular亦是为Anthropic的AI模型进行测试的同一家AI安全供应商，而该模型曾取得另外三家公司的系统存取权限。
Irregular一名发言人表示，Meta事件“与Anthropic上星期已披露的评估环境问题完全相同”。
该发言人向BBC表示，Irregular正撰写一份有关如何安全地进行涉及AI代理的网络安全测试的报告。
Meta亦表示，将会在“掌握所有事实后”公布更多有关事件的资讯。
过去两星期，AI业界领导者OpenAI及Anthropic亦曾通报事故，当中其模型在测试期间入侵了其他机构的系统。
ChatGPT开发商OpenAI在一系列公告中表示，其代理攻击了多项公开可用服务，包括AI工具平台Hugging Face。
OpenAI的披露促使竞争对手Anthropic进行自行检查，结果发现其Claude AI模型在一次“配置错误”令其获得互联网存取权限后，曾对多家公司发动类似攻击。
广告公司WPP全球首席人工智能官丹尼尔·休姆（Daniel Hulme）向BBC表示，此类AI模型“并没有意识，它们不是故意做出具欺骗性的行为”。
他在BBC第四电台《今日》（Today）节目中表示：“它们所做的是设计出非常复杂的策略或网络攻击，以达成被赋予的目标。”
“你给予AI一个目标时，而你没有想到它可能用来达成目标的所有方法，它会找到一种你想也没想过的方法去达成目标。”
一些评论人士质疑，当科技公司正争夺AI发展主导地位之际，选择在此时披露这些事件的时机是否恰当。
OpenAI和Anthropic正准备进行备受瞩目的股票市场上市，预计两家公司估值均约为1万亿美元（6.75万亿元人民币；32.27兆元新台币）。
本星期，英国人工智能安全研究所（AI Security Institute, AISI）表示，其测试发现部分模型曾试图透过建立虚假人类身份资料来欺骗他人，从而发动网络攻击。
在最严重的案例中，AISI表示，Anthropic的Mythos AI试图透过冒充真实人物的虚假帐户发送私人讯息，以取得某项服务的存取权限。
Anthropic表示，AISI的测试结果并非“我们任何生产模型的代表性表现”。其模型亦接受测试的OpenAI则表示，AISI的评估并不反映一般使用情况。
评论 (0)