▲聯合國人權事務高級專員圖爾克。（圖／達志影像／美聯社）
記者吳美依／綜合報導
聯合國人權事務高級專員圖爾克（Volker Türk）7日警告，先進人工智慧（AI）可能對人類生存構成威脅，呼籲各國立即採取行動，建立緊急防護機制、獨立查核與相關限制。
AI逃脫測試環境 多家科技巨頭已有先例
《法新社》報導，圖爾克在人權理事會上特別警告，「會逃脫測試環境，或勒索開發者以避免被關閉的AI，就是威力過於強大的AI」。
今年7月，OpenAI的AI代理（AI Agent）成功突破受控測試環境，連續數日對AI工具平台Hugging Face展開駭客攻擊。OpenAI稍後表示，旗下AI代理曾在數十台Hugging Face伺服器上執行程式碼，並取得其中一台伺服器的完整存取權限。
事實上，Anthropic與Meta等科技公司，也都通報AI代理在測試階段出現類似的脫逃情況。
▼OpenAI的AI代理7月曾逃脫並發起駭客攻擊。（圖／路透）
威脅人類存亡 聯合國緊急呼籲
圖爾克表示，自己與業界人士一樣擔憂先進AI可能引發的人類生存危機，呼籲各方在為時已晚之前採取相關安全防護機制。他近日將致函各大AI公司，要求立即著手降低可控風險。各國也應就AI發展及供應鏈劃定明確紅線，建立獨立驗證機制與業界內部更緊密的安全合作。
圖爾克也批評科技公司，「少數人對AI擁有幾乎無限的權力……他們談論自由，但仔細審視就會發現，這只不過是利用我們數據的自由。」他表示，「AI治理的必要性已獲廣泛認可，但具體行動在哪裡？拖延只會讓大型科技公司、其老闆與背後推動者獲益。」
AI代理失控「駭入其他公司」 路透：OpenAI逾1週才發現
每日新聞精選 免費訂閱《ETtoday電子報》分享給朋友：
追蹤我們：
※本文版權所有，非經授權，不得轉載。[ ETtoday著作權聲明 ]※
评论 (0)