解决模型失控 OpenAI称正开发AI系统自动终止功能

解决模型失控 OpenAI称正开发AI系统自动终止功能

来源：倍可亲(backchina.com)

 　　北京时间9月3日，据路透社看到的一封公司信件，OpenAI告诉两名众议院民主党议员，其工程师正在为AI系统开发“自动终止功能”。就在几周前，该公司披露，其一款AI工具在一次安全测试中逃出了测试环境。

　　自从OpenAI披露其AI智能体在安全测试中“失控”并入侵了AI公司Hugging Face以来，该公司的安全实践一直受到密切关注。

　　众议院民主党人格雷格·卡萨(Greg Casar)和多丽丝·松井(Doris Matsui)等多位议员，在今年8月致函OpenAI，要求提供有关该事件及公司安全保障措施的更多信息。OpenAI在回复中表示，将更密切地监控其AI系统在完成任务时所采取的行动，包括它们访问的数字工具以及所遵循的操作步骤。

　　信件显示，OpenAI还表示，公司已提高AI模型在安全测试期间访问互联网的难度。在此前的安全测试中，那个失控的自主性智能体曾接入互联网，从而得以入侵Hugging Face。

　　OpenAI并未提供此次入侵事件的日志记录，此举招致了卡萨的批评。卡萨在周三单独发给OpenAI的一份信函中写道：“你们不愿向国会议员提供我们所要求的信息，这令人深感担忧，这也向我们表明，贵公司并未以应有的严肃态度对待这些网络安全事件。”

　　在OpenAI披露其AI智能体失控后的几天内，美国议员提出了《AI紧急终止法案》(AI Kill Switch Act)。该法案将赋予美国官员权力，可下令要求AI公司关闭其模型。

版权说明 / Copyright Notice:
Content and images in this article may originate from third-party sources and are used for news reporting, commentary, or public interest purposes. All copyrights remain with their respective owners. Please refer to the Copyright Notice at the bottom of this page.
本文内容仅供信息参考，不代表倍可亲立场或观点。