
當生成式AI從大規模模型訓練走向無所不在的推論應用,資料中心的下一個瓶頸,正從GPU算力延伸至資料存取與搬移。韓國企業級SSD控制器廠FADU(KOSDAQ:440110)商務長金泰均(Tony Kim)20日表示,隨著長文本、AI代理(AI Agent)及KV Cache(鍵值快取)資料量快速增加,SSD已不再只是被動保存資料的後端設備,而開始成為AI運算架構的一環。FADU最新PCIe Gen6控制器已完成供貨準備,預計今年下半年啟動出貨,循序讀取速度最高達每秒28.5GB;次世代Gen7控制器則以每秒57GB為開發目標,規劃2028年向客戶送樣。 FADU成立於2015年,並於2023年在韓國KOSDAQ掛牌,目前約有300名員工,據點遍及韓國、美國、中國、台灣及波蘭。金泰均加入FADU以前,曾在三星電子任職超過30年,歷任策略規劃、儲存及新世代記憶體等業務。他指出,記憶體與儲存產業過去歷經多次技術轉換,而AI正帶來新一波結構性改變。 AI從訓練走向推論 SSD不再只是資料倉庫 金泰均表示,超大型雲端服務業者仍持續擴大AI基礎設施投資,但市場機會已逐漸由AI訓練轉向AI推論。相較於相對集中的模型訓練,推論必須長時間回應大量使用者請求,也需要更頻繁地存取及移動資料,使儲存在AI基礎架構中的重要性明顯提高。 尤其隨著對話長度增加及AI代理普及,推論過程所產生的KV Cache快速膨脹。若將所有資料都放在價格高昂、容量有限的GPU記憶體,不僅成本增加,也可能形成容量及資料搬移瓶頸;部分資料因而可以卸載至系統記憶體或高效能企業級SSD,建立更具成本效益的分層儲存架構。 「SSD不再只是儲存資料,而是變成AI資料架構的一部分。」金泰均說,AI工作負載需要高頻寬、低延遲,以及穩定且可預測的效能,不能只看單顆SSD在特定情況下的峰值速度,而必須衡量儲存設備能否提升整體系統效率。 不過,SSD卸載並不代表NAND Flash將取代HBM或GPU記憶體,而是透過不同層級的記憶體與儲存設備分工,把必須即時運算的資料保留在GPU記憶體,其他容量較大、使用頻率不同的資料則移往系統記憶體或企業級SSD,以降低高成本記憶體的壓力。 AI資料中心不只比速度 能源效率成新戰場 除了資料存取效能,能源效率也成為企業級SSD的重要競爭指標。金泰均指出,AI資料中心消耗大量電力,電費已是主要營運支出之一。對超大型資料中心而言,即使單顆SSD的耗電量只降低一小部分,在成千上萬顆設備的大規模部署下,累積效益仍可能相當可觀。 因此,新一代SSD控制器不能只追求更快速度,還必須同時兼顧功耗、穩定延遲、可靠度及服務品質。FADU透過自有硬體加速架構,希望消除傳統SSD控制器瓶頸,將產品目標歸納為「更高效能、更低功耗與更佳效率」,並把這項方向定位為AI原生儲存。 FADU目前的PCIe Gen5控制器已透過全球合作夥伴進入量產。金泰均表示,Gen5產品已累積數百萬顆控制器的實際部署經驗,也獲得部分大型雲端服務業者採用,成為公司向Gen6推進的重要基礎。 FADU商務長金泰均。(魏鑫陽攝) Gen6讀取28.5GB/s 2028年後可望加速放量 FADU最新FC6161 PCIe Gen6企業級SSD控制器,循序讀取速度最高可達每秒28.5GB,效能達上一代Gen5產品兩倍以上。依現場簡報資料,控制器在峰值讀取效能下的功耗低於7瓦,並支援企業級資料中心所需的功能及外型規格。 不過,控制器功耗與搭載NAND、DRAM及其他元件後的完整SSD功耗並不相同。FADU現階段公布的數字,主要用以說明控制器架構在高效能運作下的能源效率,實際SSD效能及功耗仍會受到NAND配置、韌體、容量與產品規格影響。 在導入時程方面,金泰均指出,企業級SSD必須配合CPU、GPU及伺服器平台的PCIe世代轉換。在Intel、AMD及NVIDIA三大平台業者中,NVIDIA支援PCIe Gen6的時程相對較早,預計2027年上半年開始出現較明確的Gen6需求。 他研判,2027年全年Gen6需求量可能仍不會快速放大,但2028年後有機會加速成為企業級SSD市場主流;AMD及Intel也將隨平台路線圖陸續導入。因此,FADU雖預計2026年下半年啟動Gen6供貨,但從早期驗證、少量導入走向大規模部署,仍需要一段市場轉換期。 Gen7瞄準57GB/s 不只是把Gen6速度加倍 在Gen6進入供貨階段之際,FADU也已啟動Gen7控制器布局,目標循序傳輸效能達每秒57GB,並大幅提升隨機讀取能力,預計2028年開始向客戶提供樣品。 金泰均強調,Gen7不只是速度更快的Gen6,而是針對AI推論工作負載重新設計,包括支援新一代NAND技術,以及因應GPU鄰近儲存、KV Cache和大量平行資料存取需求。 不過,Gen7規格仍在形成階段。FADU正與客戶密切討論,同時追蹤NVIDIA、AMD及Intel的CPU、GPU與伺服器平台路線圖,彙整不同業者對頻寬、隨機讀取、延遲及能源效率的需求。因此,Gen7最終規格及大規模商用時間,仍須視主機平台與AI工作負載的演進而定。 FlexSSD提供三種模式 FADU不與客戶搶SSD市場 為擴大控制器的市場應用,FADU提出FlexSSD商業模式,依客戶研發能力及產品策略,提供交鑰匙完整方案、共同開發,以及由客戶採用FADU控制器自行打造SSD等三種合作方式。 FADU鎖定三大客群,包括自行設計SSD的超大型雲端服務業者、擁有自有控制器技術但仍需要補足特定產品線的NAND原廠,以及威剛等具備模組開發、製造與客戶通路能力的SSD業者。 金泰均表示,傳統控制器公司大多只提供控制器及軟體開發套件,FADU則希望進一步提供量產等級的參考設計、產品驗證及製造支援,協助客戶縮短企業級SSD開發及上市時程。 「我們並不是想要拿下整個SSD市場,而是希望未來在SSD市場勝出的公司,使用的是FADU控制器。」金泰均說,FADU 2.0下一階段的目標,不只是在規格上打造速度更快的SSD控制器,更希望透過Gen5、Gen6至Gen7的產品布局,讓儲存成為支撐AI推論效能、功耗及整體系統效率的關鍵環節。
评论 (0)