▲由OpenAI前員工於2021年創立的Anthropic，目前正處於AI安全爭論的核心。（圖／路透）
記者張方瑀／綜合報導
全球最大AI公司之一的Anthropic共同創辦人克拉克（Jack Clark）向BBC透露，為了防止人工智慧（AI）軟體變得過於危險，企業可能必須被強制規定設立一個可由第三方驗證的「終止開關」（kill switch）。
克拉克指出，包含Anthropic在內，目前「多數實驗室都有不同方式能『拔插頭』（pull the plug）」，但社會大眾最終可能會希望針對這類機制進行立法規範，而立法者可能需要強制業者具備這項功能，「你該強制要求公司一定要有終止開關嗎？這個終止開關能由第三方驗證嗎？我認為這是社會大眾會想知道的事。」
AI滅絕人類機率達10%？ 專家呼籲放緩發展
隨著AI技術快速發展，相關企業高層與員工接連發出警告，讓AI對人類構成的風險成為大眾矚目的焦點，甚至有人公開表示，若不加約束，這項科技有機會消滅全人類。上週，一名擔心AI可能消滅人類而辭職的Anthropic研究員，其貼文在網路上引發瘋傳。
對此，Anthropic科學家哈賓格（Evan Hubinger）坦言，他個人認為AI在未來十年內導致人類滅絕的可能性大於10%。
被譽為「AI教父」的諾貝爾獎得主辛頓（Geoffrey Hinton）也向BBC表示，AI消滅全人類機率有10%是合理的評估；他們擔憂，AI可能會透過掌控連接網路的重要系統，並將其用來對付人類。
▲全球最大AI公司之一的Anthropic共同創辦人克拉克（Jack Clark）。（圖／達志影像／美聯社）
由OpenAI前員工於2021年創立的Anthropic，目前正處於AI安全爭論的核心。Anthropic執行長阿莫戴（Dario Amodei）日前也呼籲應放緩AI發展腳步，並進行更密切的監控，但他強調，任何約束行動都應在「不犧牲商業優勢」的前提下進行。
末日論遭批炒作 淪推升企業估值工具
不過，產業界也有人認為，AI毀滅人類的恐懼被過度誇大，甚至只是為了炒作。曾被OpenAI機器人駭入的開發者平台Hugging Face負責人德蘭格（Clement Delangue）直言，「去問考克森（Jacob Coxon）關於AI導致人類滅絕的風險，就像去問修冷氣的師傅氣候變遷的問題一樣。」
Anthropic研究員考克森日前辭職並退出業界，指控過去任職的OpenAI和Anthropic在競逐具備自我提升能力的模型時，「正在拿我們的生命賭博」。考克森並在社群平台X發文警告，「打造AI的人真心相信，AI可能在這十年結束前殺死我們所有人。」
Grindr負責人阿里森（George Arison）則指出，AI公司正利用大眾的恐懼來支持其商業計畫，「唯一能合理化這些估值的方法，就是大聲宣告：『我將接管每一個產業、取代每一份工作，而我的AI將包辦所有事情。』」
▲美國國會議員已提出《終止開關法案》（Kill Switch Act），要求公司必須具備關閉有問題AI工具的方法。（圖／路透）
據了解，估值高達9650億美元的Anthropic正準備進行首次公開發行（IPO），讓民眾可購買該公司股票。而最近估值為8,520億美元的OpenAI原本也預期跟進，但執行長奧特曼（Altman）表示，由於目前圍繞AI安全的爭議，今年不會推動上市。
美議員推《終止開關法案》 川普轟：是一場騙局
針對AI風險，美國國會議員已提出《終止開關法案》（Kill Switch Act），要求公司必須具備關閉有問題AI工具的方法，並賦予特定政府機構權力，要求關閉或限制某項工具。
然而，美國總統川普（Donald Trump）強烈拒絕任何試圖放緩AI發展的想法。他在社群媒體上發文痛批，「AI接管世界、毀滅人類，以及其他所有的壞事，都是一場騙局（HOAX）」，並稱這是一場針對AI和資料中心（Data Centers）的病態陰謀，「唯一對此感到高興的是中國。誰贏得了AI，誰就贏得了天下！」
在英國，政府最近則回絕了設立終止開關的想法，發言人表示，這「無法防止它們在其他地方被開發或濫用」。
Anthropic打造了廣受歡迎的聊天機器人Claude，並在今年發布了多個能力越來越強的AI模型。不過與OpenAI一樣，Anthropic後續也主動通報了多起AI代理（AI agents）出現預期外行為的事件。
針對AI消滅全人類的具體機率，克拉克回應表示，統計數據並不重要，但讓AI繼續作為一個「完全不受管制的產業」是個糟透了的主意，「我們正在拿巨大的風險擲骰子，重點是，我們必須改變這個產業的發展方向。」
每日新聞精選 免費訂閱《ETtoday電子報》分享給朋友：
追蹤我們：
※本文版權所有，非經授權，不得轉載。[ ETtoday著作權聲明 ]※
评论 (0)