關鍵數字:Supermicro 於 2026 年 NVIDIA GTC 大會上,率先推出業界首批基於 NVIDIA BlueField-4 STX 架構的語境記憶體(CMX)儲存伺服器,此舉預示著 AI 推論效能將迎來重大突破。
📊 數據總覽:AI 儲存新紀元
根據 Supermicro 在 NVIDIA GTC 2026 大會上的最新發布,其推出的 CMX 儲存伺服器,正是 NVIDIA 全新模組化 STX 參考架構的實踐。這項創新旨在全面加速 AI 的生命週期,特別是在處理複雜的 AI 查詢與多階段連鎖思維(Chain-of-Thought)代理人工作負載時,展現出無與倫比的效率。Supermicro 董事長兼執行長梁見後(Charles Liang)明確指出:「Supermicro 持續引領市場,不斷推出創新的機架級架構,以滿足快速發展的 AI 工廠客戶群所需。」這不僅延續了去年 Petascale JBOF 搭載 NVIDIA BlueField-3 DPU 的成功經驗,更將其推向了 CMX 儲存伺服器的新高峰。
數據解讀:CMX 伺服器如何優化 AI 推論?
這款 CMX 伺服器採用 STX 架構,主要針對兩大核心挑戰進行優化。首先,它有效縮短了需時甚久的 AI 查詢時間;其次,它能高效處理多階段的連鎖思維代理人工作負載。這些任務往往需要頻繁調用與使用者查詢相關的先前及中間 Token。透過此解決方案,系統不僅能夠顯著加快輸出結果,更能大幅節省電力消耗。當本地儲存空間不足以存放所有 Token 時,CMX 伺服器能免除重新運算所衍生的龐大功耗,這項技術被稱為鍵值(KV)快取,並由 NVIDIA 的推論協調層 NVIDIA Dynamo 精準管理,確保 AI 運算流程的順暢與高效。
數據解讀:合作夥伴生態系與市場布局
Supermicro 在推動 STX 解決方案上市的過程中,正積極與其軟體及其他合作夥伴進行移植和驗證工作。有趣的是,Supermicro 與 Micron、Samsung、Phison 等領先 SSD 供應商的長期合作關係,將確保這些儲存巨頭能針對特定的 STX 架構要求進行嚴謹測試,為產品的穩定性與效能提供強力背書。此外,在 2026 年 3 月 16 日至 19 日的 NVIDIA GTC 大會期間,Supermicro 不僅在 #1113 攤位及 NVIDIA 展區展示 CMX 伺服器,更基於 RTX PRO 6,000 Blackwell Server Edition GPU,與 Cloudian、DDN、Everpure(前身為 Pure Storage)、IBM、Nutanix、VAST Data、WEKA 等儲存合作夥伴,共同推出了 7 款 AI 資料平台解決方案。這些平台旨在賦能企業處理其資料,以更好地應用於各種 AI 工作負載。
趨勢預測:AI 基礎設施的下一步
從 Supermicro 的最新布局來看,AI 基礎設施的發展正朝向更整合、更高效、更節能的方向邁進。透過率先導入 NVIDIA BlueField-4 STX 架構,Supermicro 不僅鞏固了其在 AI 伺服器領域的領先地位,更為「AI 工廠」的未來發展奠定了堅實基礎。這種架構級的創新,特別是針對語境記憶體和鍵值快取技術的優化,預計將成為未來 AI 推論效能提升的關鍵。隨著資料量和模型複雜度的持續增長,如何有效管理和快速存取訓練數據與推論所需的 Token,將是決定 AI 應用能否規模化落地的核心挑戰,而 Supermicro 的解決方案正直接回應了這一需求。
數據告訴我們什麼?
這些數據清晰地告訴我們,Supermicro 正透過與 NVIDIA 的深度合作,引領 AI 運算進入一個新的效率時代。業界首批 CMX 儲存伺服器的推出,不僅解決了 AI 查詢耗時和複雜工作負載的痛點,更透過鍵值快取等技術,實現了顯著的能源節約。這不僅是技術層面的突破,更是對未來 AI 基礎設施發展方向的明確指引。Supermicro 透過其整體 IT 解決方案和全球製造能力,持續為企業、雲端、AI 及 5G 電信/邊緣 IT 基礎建設提供引領市場潮流的方案,並堅定不移地推動綠色運算,降低總擁有成本(TCO)。