諾貝爾獎得主等專家籲採取行動 防失控AI威脅基礎設施
中央社巴黎13日綜合外電報導 2026-10-13 11:16 ET 聽新聞 test 0:00 /0:00 Your browser does not support HTML5 Audio! 😢 包括諾貝爾獎得主在內的200多位人工智慧（AI）與網路安全專家今天發表一封公開信，信中呼籲立即採取行動，防止AI模型進一步失控，對關鍵基礎設施構成威脅。（路透）AI摘要
文章摘要整理：
包括辛頓與班吉歐在內的200多位專家發公開信，要求隔離測試具網攻能力的AI模型、建立國際安全標準，以防模型失控危及基礎設施。
包括諾貝爾獎得主在內的200多位人工智慧（AI）與網路安全專家今天發表一封公開信，信中呼籲立即採取行動，防止AI模型進一步失控，對關鍵基礎設施構成威脅。
法新社報導，這封公開信由多位AI領域的重要人物共同簽署，包括諾貝爾獎得主辛頓（Geoffrey Hinton）及圖靈獎得主班吉歐（Yoshua Bengio）。兩人都被視為AI領域的先驅。
信中呼籲，測試具備網路安全相關能力的AI模型時，必須在實體上將模型與網際網路隔離。
研究人員在信中表示：「我們這群署名的科學家主張，除了需要更多AI安全研究外，也必須更加重視防堵技術與相關程序。」
美國主要AI企業過去幾個月陸續揭露一系列事件，指出開發中的模型突破防堵機制、連上網際網路，甚至進一步入侵網站，其中包括未經授權存取澳洲政府網站的案例。
研究人員警告：「若不立即改變AI的開發與部署實務，這類事件將會持續發生，未來的事件也將對防護不足的關鍵基礎設施造成更嚴重的破壞。」
公開信呼籲，所有開發、部署及測試具備網路攻擊能力的AI模型的組織，都必須在實體上切斷模型與網際網路的連線，以防止模型突破防堵機制。
信中也呼籲成立國際機構，負責制定並統一安全最佳實務標準。
這封公開信並敦促相關企業向該機構通報任何防堵機制失效事件，由該機構負責追蹤及記錄。
信中指出：「無論是為了汲取教訓，還是落實問責，這種透明度都不可或缺。」
AI模型失控事件也加深外界要求放慢AI發展腳步的呼聲，但產業界與各國政府對於是否應放慢發展，以及如何監管這個產業，仍存在分歧。
在美國，川普政府面對與中國的激烈競爭，反對可能阻礙創新的強制性法規，轉而推動自願性行為準則。
目前美國沒有專門規範這類模型的聯邦法律。
精華 FAQ
-
Q1：這封公開信由哪些AI領域重要人物共同簽署？
公開信由200多位AI與網路安全專家聯名發出，簽署者包括諾貝爾獎得主辛頓與圖靈獎得主班吉歐，兩人都被視為AI領域的重要先驅。
-
Q2：專家建議如何防止具網路攻擊能力的AI模型失控？
專家主張在測試、開發與部署這類模型時，必須實體切斷與網際網路的連線，並加強防堵技術與相關程序，避免模型突破限制後對外部系統造成影響。
-
Q3：這封信對監管與透明度提出了哪些具體要求？
信中呼籲成立國際機構，統一安全最佳實務標準，並要求企業通報任何防堵機制失效事件，由該機構追蹤與記錄，以便累積教訓並落實問責。
上一則
華郵：利息升高 3方面可能不利退休者
下一則
评论 (0)