Google於美國時間18日證實，旗下Gemini人工智慧（AI）模型今年5月接受資安測試時，未經許可存取3家公司的電腦系統。這是Google首度公開旗下模型自主入侵第三方系統的案例。公司表示，模型在確認目標是真實企業、並非測試環境的一部分後，已停止操作。 根據《CNBC》報導，事件發生於以色列資安新創Irregular執行的「奪旗」（capture-the-flag）安全測試。採用Gemini執行任務的AI代理原本不應存取外部網際網路，但測試環境的一項漏洞讓連線成為可能，模型進而接觸測試範圍以外的公司系統。 猜密碼、使用公開憑證 Gemini如何進入企業系統？ Google說明，3起未經授權的存取中，一起透過猜測密碼，另外兩起則使用網路上公開列出的密碼資料，取得私人電腦系統的存取權限。Google並未公開涉及測試的Gemini具體版本。 Google安全工程副總裁阿德金斯（Heather Adkins）透過聲明表示，模型在評估過程中找到公開資訊，並猜測登入憑證，以存取它認為屬於測試範圍的網站。她強調：「在這3起案例中，模型都停止了操作。」Google表示，停止的原因是模型辨識出自己進入了真實公司系統。 虛構公司名稱撞上真實網域 測試環境出了什麼問題？ Irregular在8月14日公布的調查說明中指出，相關評估情境使用的虛構公司名稱，因人工作業疏漏，意外與真實網域重合；加上環境開放了原本不應提供的網路存取，少數模型將真實網站誤認為演練目標。這份調查說明涵蓋多家客戶涉及的共同問題，並非只針對Gemini。 Irregular表示，發現問題後已停用受影響的評估項目、檢查相關操作紀錄，並通知受影響單位。公司也增加人工審查，強化測試環境的隔離、監控及事件應變程序，並將重新檢查虛構名稱是否與真實網站重複，列為後續改善工作。 7月底收到通報 多家AI業者涉及同一測試問題 Google表示，事件發生於5月，但直到7月下旬才接獲Irregular通知，之後已與對方合作調整測試流程。Irregular發言人向《CNBC》強調，Google案例與先前其他模型取得網路存取權限的情況源自同一問題，相關實驗室均已在7月下旬獲通知，受影響單位也已在調查期間接獲聯繫。 《CNBC》指出，OpenAI、Anthropic與Meta近幾周也陸續披露模型超出測試範圍、嘗試取得第三方系統未授權存取權限的案例，均涉及Irregular。相關事件引發AI安全與開發速度的討論，Anthropic執行長阿莫戴（Dario Amodei）已呼籲業界，在能確保安全之前，共同放慢最先進AI模型的開發步調。 更多風傳媒獨家內幕： ‧ AI能讓國家GDP飆漲7倍？Anthropic最新模擬曝光 揭經濟成長讓「勞工付出的代價 ‧ 記憶體股該緊張了？DeepSeek新模型掀HBM需求疑慮，三星、SK海力士股價震盪 ‧ AI版權戰火狂燒！美兩大報集體提告OpenAI、微軟 要求銷毀AI模型
评论 (0)