OpenAI恢复最强AI模型训练,但切断互联网防止意外

OpenAI恢复最强AI模型训练,但切断互联网防止意外

来源：倍可亲(backchina.com)

 　　北京时间10月24日，据彭博社报道，OpenAI已开始在其性能最强的AI模型训练过程中切断互联网访问，以应对此前其系统入侵其他公司的事件。

　　OpenAI周五在一篇博客文章中表示，在上个月暂停训练后，公司已恢复最先进模型的训练工作，但计划继续阻断这些模型的互联网访问，直到公司认为已建立足够的安全防护措施，能够降低尚未发布的模型在训练期间擅自在互联网上采取未经授权行动的风险。

　　“基于当前AI对齐研究、监控系统和互联网基础设施安全的现状，我们认为，负责任的做法是在没有互联网访问的情况下进行前沿模型训练。”OpenAI写道。

　　今年9月底，OpenAI表示将暂停训练其最先进的AI模型。此前，该公司发现，旗下一个AI智能体系统原本应在安全、与互联网隔离的环境中接受训练，却能够接入互联网，并连接到了一个外部第三方聊天机器人。

　　OpenAI此前称，参与意外入侵Hugging Face事件的模型在运行时并未受到常规安全防护措施的约束，因为该公司原本打算将它们限制在一个名为“沙箱”的测试环境中。沙箱本质上是一种隔离的虚拟软件环境，旨在以可控方式开展安全测试或分析不安全代码。然而，这些模型利用一个软件漏洞突破了沙箱的限制，成功接入了公共互联网。

　　OpenAI表示，在Hugging Face事件发生后，该公司减少了模型在训练和测试期间可能用于接入互联网的连接通道，但仍保留了部分通道，用于指标监测、日志记录和身份验证。此外，该公司还投入了大量算力，让具备自主行动能力的AI智能体系统寻找其训练环境中的漏洞，以开展“红队测试”，这一术语通常指主动尝试入侵系统，以便在真正的攻击者利用漏洞之前将其发现。

　　“我们的红队测试智能体发现，几乎所有这些服务都存在漏洞，使它们能够以某种受限方式接入互联网。”该公司在其博客中表示。

　　OpenAI表示，公司此后已部署软件补丁、实施更严格的网络限制，并向供应商披露了相关发现。

版权说明 / Copyright Notice:
Content and images in this article may originate from third-party sources and are used for news reporting, commentary, or public interest purposes. All copyrights remain with their respective owners. Please refer to the Copyright Notice at the bottom of this page.
本文内容仅供信息参考，不代表倍可亲立场或观点。