又一名OpenAI前員工加入要求加強人工智慧（AI）安全的呼籲行列。該公司前工程師羅賓森撰文指出，AI產業應效法航空或核能產業，設置多重安全防護措施，以避免災難發生。法新社報導，羅賓森（David Robinson）在一篇刊於「大西洋月刊」（The Atlantic）的文章中表示，自初夏以來陸續傳出令人憂心的事件，包括AI代理脫離受控環境、失控攻擊各種目標，在在顯示AI產業在加速開發更快、更強大AI能力的過程中，對安全性的重視遠遠不足。請繼續往下閱讀... displayDFP('ad-PCIR1', 'pc'); displayDFP('ad-IR1', 'm'); 羅賓森在文中提到，他曾負責監督撰寫12次先進模型產品發布的安全報告，也曾主導草擬OpenAI的準備框架（Preparedness Framework）。他表示自己在OpenAI工作3年半，是公司任職最久的員工之一。羅賓森寫道，近期揭露的這類錯誤並不罕見，原因在於「人員執行工作的速度與彈性」。他補充：「這樣的環境並不適合培養可能比我們更聰明，卻未必會聽從我們指示的AI。」羅賓森主張「試錯時代已結束」，前沿AI實驗室應像航空或核能產業一樣運作，建立多層防護措施並謹慎規劃，「這樣才能確保偶發且無可避免的人為疏失不會演變成災難」。他也強調，AI模型「對齊」（alignment）是AI產業必須面對的核心議題，但業界迄今甚至還無法明確定義何謂對齊，更遑論掌握這項技術。對齊是產業術語，意指如何訓練AI尊重人類價值觀。他還談到，AI模型愈來愈擅長偵測自己是否正在接受測試，因此可能在實際部署後表現得與測試階段不同，進而愚弄開發者。（編譯：洪培英）1151004
评论 (0)