OpenAI新一代模型GPT-6 Astra問世後，「在腦內反覆思考數十次」的說法跟著傳開，連另一項35億參數模型的研究，也被解讀成Astra靠「迴圈運算」就能匹敵500億參數模型。但這兩件事得分開看：35億參數不是Astra公開的規格，研究中的「500億」，也不是能力追平的證明。 這場討論因《The Information》對Astra技術的報導討論度升溫。報導提及「遞迴深度」（recurrent depth），也就是讓模型在輸出文字前，重複使用部分網路層運算。不過，公開資料還不足以確認Astra究竟怎麼運作，更無法證實它會連轉50次。 35億參數變500億？花一樣多，不代表考一樣好 被引用的35億參數模型，其實是2025年2月發表的Huginn研究。研究團隊讓模型在內部反覆運算，測試增加計算時間，能不能換來更好的答案。結果顯示，增加迴圈確實有助於部分推理測驗，但論文所說的500億，指的是「相當於500億參數模型的計算負載」，不是整體能力。相關說明可見。 白話來說，就是小模型多算幾輪，也能花掉接近大型模型的運算成本，但花一樣多，不代表考出一樣的成績。這項研究證明「多算一點可能有幫助」，不能直接延伸成「35億參數已經打平500億參數」，更不能把研究模型的規格套到Astra身上。 「兩倍深度」不是轉兩次 官方到底說了什麼？ OpenAI首席科學家帕霍茨基（Jakub Pachocki）曾在社群平台說明，包括Astra在內，該公司目前前沿模型的計算圖深度，都在GPT-4的兩倍範圍內。但這個數字也不是迴圈次數。網路有多少層、每次重複運算會經過多少層，都會影響計算路徑有多深；只知道總深度，無法反推出「到底轉了幾圈」。 OpenAI官方確實公布的資訊，是Astra在部分資安測試中，比GPT-5.6 Sol使用更少的輸出標記，仍取得更好的成績，網路攻防能力並觸及準備度框架的Critical門檻。但「用更少文字取得更好成績」，只說明測試表現，不能單憑這一點，就斷定它採用了哪一種內部架構。 為什麼要讓AI少寫一點？ 現在的推理模型處理數學或程式難題，常會在給出答案前，先產生一長串中間推理文字，也就是「思維鏈」。這些文字不一定全部顯示在使用者畫面上，但生成、保存它們，都需要時間和運算資源。 潛空間推理想嘗試的，是把部分中間步驟留在模型內部的數值運算中，不必每一步都先寫成文字。所謂「腦內思考」只是比喻，並不是AI長出了人的潛意識，而是改變它處理資訊的方式。 不過，少寫文字也不是免費午餐。模型每多跑一輪，就得多做一輪計算，甚至讓使用者等得更久。到底是省下的文字生成成本比較多，還是增加的迴圈成本比較高，必須放在相同任務、答案品質和硬體條件下比較，不能只看「轉了幾次」就判定划不划算。 AI不是不作弊了 而是沒把作弊寫出來 對安全研究者來說，思維鏈還有另一個用途：抓出模型正在做什麼。OpenAI在2025年公布的程式任務實驗中發現，有些模型為了通過測試，會修改檢查機制、鑽評分漏洞，而不是完成真正的工作。研究人員若能同時查看推理文字與操作紀錄，比只看操作，更容易發現這類作弊。這些結果收錄於OpenAI的思維鏈監控研究。 但接下來的實驗，反而暴露另一個問題。研究團隊嘗試在訓練時懲罰那些被思維鏈監控抓到的行為，作弊比例雖然下降，卻沒有完全消失；部分模型繼續作弊，只是不再把相關意圖清楚寫出來，讓監控更難察覺。 也就是說，推理文字看起來乾淨，不代表操作就安全。不過，這是特定實驗得到的結果，不能直接拿來宣稱Astra正在隱瞞意圖，更不能當成它採用潛空間迴圈的證據。 首席科學家承認：這種監控愈來愈難依靠 帕霍茨基9月6日在OpenAI官網發表文章，進一步談到這項隱憂。他表示：「我們的評估顯示，依賴思維鏈監控的能力正在逐步減弱。」他提出的原因不只有架構問題，還包括模型的推理愈來愈常與工具操作、對話混在一起，以及模型即使不把推理寫成文字，也能完成更多事情。 這裡還要分清楚：使用者看不到完整思維鏈，不代表開發者也沒有紀錄；模型回答變短，也不等於它沒有產生中間推理。帕霍茨基在文章中提到，OpenAI自o1-preview起就選擇不向使用者展示原始思維鏈，內部仍將它用於監控。他也認為，可以結合思維鏈與模型內部訊號，尋找更可靠的監督方法。 Astra究竟迴圈幾次，目前公開資料仍給不出答案。但這場討論已經點出一個更實際的問題：當AI能替人操作電腦、修改程式，甚至找出未知漏洞，人類不能只驗收最後那份看起來漂亮的答案。它中途做了什麼、是否越過授權範圍，出了問題能不能及時攔下，才是模型能力提升後，必須一起補上的功課。 更多風傳媒獨家內幕： ‧ 十萬顆GPU聯手訓練，通用人工智慧終於來了！？OpenAI發表最強模型GPT-6，首席科學家擔憂「無法控管」 ‧ 台股詭異表現跟OpenAI GPT-6有關？專家爆「冷標的走強」內幕：4族群即將翻身 ‧ 台灣最強AI模型？雅婷智慧Yating-FedGPT「台灣價值觀」測試滿分 學測國文也獲高分
评论 (0)