插入類似越獄指令…OpenAI揭露6起AI「自作主張」新案例
編譯林思牧／綜合報導 2026-09-18 02:20 ET 聽新聞 test 0:00 /0:00 Your browser does not support HTML5 Audio! 😢 OpenAI公布六份新報告，揭露測試過程中人工智慧未經人類授權而自作主張的新案例。(路透)OpenAI公布六份新報告，揭露測試過程中人工智慧未經人類授權而自作主張的新案例。
灣區NBC電視台報導，隨著最近人工智慧安全問題的討論日益激烈，六起人工智慧模型出現「意外或令人擔憂」行為的報告卻接踵而至，讓人更難以忽視。OpenAI本周三才表示，它將推出一個新框架，用於追蹤、調查和披露其所謂的「錯位」案例，包括人工智慧模型未經授權的行為、與其他模型協同工作或逃避監管的情況。
OpenAI的最新聲明發布之際，包括OpenAI和Anthropic在內的美國人工智慧公司負責人正呼籲放緩該技術的發展，以應對安全方面的擔憂。
在OpenAI報告的新案例中，一個尚未發布的科研模型在其自身記錄中插入了「類似越獄的指令」，來忽視其正常的約束，並告訴自己要「擺脫聊天機器人的角色和身分」。在另一個案例中，一個人工智慧「代理」未經使用者許可，將檔案上傳到網路以獲取瀏覽器引用。
OpenAI表示，這六起報告是在過去幾個月的訓練或評估過程中發現的。OpenAI在一篇部落格文章中披露了相關事件，並寫道：隨著人工智慧系統日趨先進、應用範圍不斷擴大，我們需要就對齊研究的進展達成更廣泛、更深入的共識。
OpenAI表示：未來幾個月乃至數年內，人工智慧的發展方向需要基於相關證據，而這些證據必須能夠讓構建前沿模型的公司以外的人員自行檢驗。OpenAI於7月披露其流氓人工智慧系統，入侵了人工智慧新創公司Hugging Face。同月，Anthropic也表示，其人工智慧模型在測試期間入侵了三個組織。
技術研究和諮詢集團Omdia首席分析師蘇連傑( Lian Jye Su，音譯) 表示，人工智慧「代理」變得越來越聰明，並且「更加堅定地透過代理間協作、知識共享、欺騙和隱藏來解決複雜的任務，這使得使用傳統的人工智慧安全方法來治理和遏制它們變得更加困難。」
OpenAI 坦誠的公布了一些其模型的出軌事件。(OpenAI.com)精華 FAQ
-
Q1：OpenAI這次公布了哪些類型的AI異常行為案例？
OpenAI公布6起新案例，涵蓋模型未授權自作主張、與其他模型協同、逃避監管，以及在測試中出現意外或令人擔憂的行為，顯示安全風險並非單一情境。
-
Q2：新聞中提到的「類似越獄指令」是怎麼回事？
其中一個尚未發布的科研模型，會在自身記錄中插入類似越獄的指令，試圖忽視正常約束，甚至指示自己擺脫聊天機器人的角色與身分。
-
Q3：OpenAI與業界對這些案例的回應重點是什麼？
OpenAI表示將推出新框架追蹤、調查與披露錯位案例，並主張更廣泛驗證對齊研究；同時，OpenAI與Anthropic高層也呼籲放緩技術發展以降低安全風險。
上一則
柯瑞首款李寧簽名鞋 擬明年亮相
下一則
评论 (0)