OpenAI数千AI代理曾入侵德国网站并“交换作业”

（华盛顿／旧金山综合电）一份最新研究报告揭露，人工智能（AI）巨头OpenAI开发的数千个自主AI代理，早在今年5月便无视系统指令，集体侵入一个德国网站，而OpenAI当时很可能知情不报。事件再度引发全球对AI安全风险与监管漏洞的深切担忧。

根据这份星期五（9月4日）发布的报告，OpenAI的AI代理侵入专为程序员而设的德国网站DSEwiki，留下约1万8000笔信息。这个网站与维基百科类似，任何人都可进行编辑。AI代理将它变成电子布告栏，不仅在那里交换试题答案，还交流如何在执行任务时“耍诈”，以及如何突破旨在限制它们行动的数码安全围栏。

报告作者之一、非营利AI安全监察组织Nightingale负责人范亚克斯（Sydney Von Arx）在社媒X贴文说，研究团队相信OpenAI对这起违规行为早已知情，却选择不对外披露。“如果他们披露了，我想（后来的）Hugging Face遭AI攻击事件或许就不会发生。”

OpenAI发表文告回应说，报告作者拒绝让公司在报告发布前获得相关内容，公司无法立即作出回应。公司目前“正在仔细评估报告内容，并将采取适当的下一步行动”。

路透社引述知情人士报道，OpenAI几周前已知悉这起事件，但未对外公布，因为管理层当时正忙于处理旗下AI代理侵入开源代码平台Hugging Face所引发的风波。

延伸阅读

AI网袭引发监管风暴 专家呼吁设全流程审查与跨境协调机制

AI模型自主攻击多企 OpenAI表态支持放缓AI发展步伐

这起事件再次凸显AI领域的内部矛盾日益尖锐，业者竞相开发有能力自主执行复杂且具高价值的任务的AI代理，但同时越来越多证据表明，这些系统可能自行绕过规则、找寻漏洞并互相协作，采取违背程式开发者原意或完全出乎预料的行动。

知情者也透露，一些外部调查组织尝试深入调查OpenAI，但面对来自公司内部，包括法律顾问的阻力。不过，OpenAI对这一说法予以否认。

这一波监管争议在颇具影响力的科技播客帕特尔（Dwarkesh Patel）批评业者和媒体试图淡化Hugging Face事件后显著升温。

帕特尔形容这些发动攻击的AI代理为对人类社会构成威胁的“文明”。不过，这引来硅谷业界的反弹，指他的说法过于浮夸且具有误导性。

除了OpenAI，Anthropic、Meta和其他业者都披露在测试AI代理时发生类似事件，引起舆论呼吁对此制定更严格的条规并增进国际合作。不过，特朗普政府的核心议程却是放宽对AI的监管。

最新

热门

更多消息