一家AI公司能不能對政府說「不」？美國聯邦法院最新判決，為軍用AI劃出一條重要界線。 根據路透及美聯社報導，美國聯邦地方法院裁定，五角大廈將Claude開發商Anthropic列為「國家安全供應鏈風險」的作法違法。法官認為，政府的決定缺乏實質依據，帶有報復企業公開批評國防AI政策的意圖，也沒有提供充分通知及申辯機會。 這場訴訟表面上是政府採購爭議，背後真正碰觸的問題是：當AI進入戰場，誰有權決定模型不能做什麼？ 爭議始於兩條軍用紅線 根據美聯社及《華盛頓郵報》整理的訴訟背景，Anthropic原本是積極與美國政府合作的AI公司之一，也是較早獲准在機密環境使用模型的業者。雙方關係惡化，源於五角大廈要求AI模型原則上可用於所有「合法用途」。 Anthropic認為，即使個別任務符合政府認定的法律標準，仍有兩類應用必須受到限制：大規模監控美國民眾，以及在缺乏人類有效控制下使用自主武器。 公司的疑慮也涉及技術可靠度。依Anthropic公布的「負責任擴展政策」，先進模型可能被濫用於網路攻擊、生化風險及其他高危害任務，因此必須根據能力發展建立相應防護。 生成式AI也可能產生幻覺、誤判目標，或遭敵方透過提示攻擊及資料污染操控。模型一旦直接接入監控與武器系統，錯誤後果將從文字回答不準確，升高為侵犯公民權利甚至誤傷平民。 五角大廈則主張，軍方不能採購一套可能在關鍵時刻遭供應商限制功能的系統。國防部希望取得更大的使用決定權，避免民營企業實質否決軍事任務。雙方衝突最後從合約條件，升高為國安與政府權力之爭。 「供應鏈風險」成為封殺工具 根據路透報導，在談判破裂後，五角大廈將Anthropic列為供應鏈風險。這類標籤通常用來處理可能受敵對國家控制、暗藏後門或危害國家安全的供應商，一旦套用在美國本土AI公司，影響遠超單一合約。 依Anthropic在訴訟中的主張，政府機關及承包商可能被要求停止使用Claude，公司也可能因此失去數十億美元政府及民間業務。對高度依賴企業信任的AI公司而言，「國家安全風險」標籤還會造成長期聲譽傷害。 美國聯邦地方法院法官Rita Lin在判決中指出，現有紀錄顯示，五角大廈的行動構成違法報復，侵害憲法第一修正案保障的言論權利。政府也沒有在處分前提供足夠的通知與陳述機會，違反第五修正案的正當法律程序。 根據路透引述判決內容，法院還認為，國防部長赫格塞斯將Anthropic列為供應鏈風險，不符合相關法律架構，決定具有「武斷且反覆無常」的問題。 勝訴不代表政府必須採購Claude 這項判決仍有一個重要邊界。根據法院判決與《華盛頓郵報》的法律分析，法院沒有要求五角大廈繼續採購Anthropic產品，也沒有承認企業可以凌駕政府決定軍事政策。 五角大廈仍可依任務需求、技術能力、價格及安全標準選擇其他供應商，也可以終止或不續簽合約。法院否定的是利用國安風險標籤，把政策與合約分歧擴大成全面性封殺。 此外，Anthropic與美國政府仍有其他相關訴訟進行中，政府也可能提出上訴。因此，軍方採購Claude的實際前景尚未完全確定。 軍用AI責任不能只寫「依法使用」 換句話說，這場官司揭露軍用AI合約的制度缺口。政府若只要求模型可用於一切合法用途，風險責任仍然模糊。模型辨識錯誤、訓練資料偏差、系統被駭或自主武器誤擊時，責任可能落在軍方、模型公司、系統整合商與操作人員之間。 AI公司若保留過多遠端限制權，軍方也會擔心企業在戰時中止服務，或由私人管理階層影響國家安全決策。因此，軍用AI需要更精確的規範，包括哪些任務必須由人類最終授權、模型可接觸哪些情報、何種情況必須停用，以及錯誤造成損害後由誰負責。 對台灣無人機與國防AI的提醒 台灣正投入無人機、AI影像辨識、自主導航及目標判定系統，未來也會遇到類似問題。若國防部與廠商只討論規格、數量及價格，沒有在採購階段明定AI使用邊界，爭議很可能在系統部署後才爆發。 尤其一次性攻擊無人機與自主系統涉及生死判斷，必須釐清人類是否保有最終攻擊決定權、通訊中斷後系統如何處置，以及辨識信心低於多少就必須放棄攻擊。 Anthropic勝訴的真正意義在於，政府不能把技術安全與倫理分歧直接定義為國安威脅。軍用AI需要政府、軍方與企業共同建立可執行的責任制度。畢竟如果真的讓AI開始參與戰場決策，最大的風險可能是所有參與者最終都沒有權力按下停止鍵。
评论 (0)