當半導體業界還在為HBM4E的頻寬規格爭論不休時，NVIDIA直接丟出了一顆震撼彈。他們決定把記憶體控制器從XPU運算晶片上「拔」出來，塞進HBM堆疊裡——這個聽起來像內部組織異動的技術決策，將直接影響兆級參數AI模型的訓練成本與能耗效率，而第一家跳下來合作的，正是全球雲端龍頭Amazon旗下的Annapurna Labs。
這不是一次漸進式的規格升級，而是一場記憶體與運算之間權力關係的重新分配。傳統架構下，記憶體控制器佔用XPU晶片面積，這個設計邏輯已經沿用了幾十年；NVIDIA NVHBM的出現，等於直接宣判這個舊思維的死刑。
根據NVIDIA官方數據，NVHBM相較於標準HBM4E，能提供最高30%的記憶體頻寬提升、降低15%的HBM功耗，更重要的是——在XPU運算晶片上釋放多達25%的面積。這25%意味著什麼？它代表晶片設計人員可以塞進更多運算核心、加入更多AI加速單元，或者乾脆縮小晶片尺寸來提升良率與成本競爭力。
表象：一場看似普通的技術合作發表會
攤開NVIDIA的新聞稿，技術規格亮眼，數據清楚明白，乍看之下就是一則標準的產品發布訊息。Amazon旗下的Annapurna Labs將成為首家參與NVHBM技術合作的公司，雙方將共同開發NVHBM技術與NVLink垂直擴充架構。
Annapurna Labs副總裁Nafea Bshara在新聞稿中表示：「NVHBM代表了一種提升高頻寬記憶體效能與效率的全新架構方式。我們期待透過這項技術合作，為AWS未來的基礎設施設計帶來助益。」
如果只看這段官方聲明，你會覺得這不過是又一次的供應商與客戶之間的例行合作。但真正耐人尋味的，不是他們說了什麼，而是他們「沒說」的部分——為什麼是Annapurna Labs？為什麼是現在？
Annapurna Labs是Amazon在半導體領域最關鍵的布局，從2015年收購以來，陸續催生了Graviton處理器、Trainium AI訓練晶片、Inferentia推論晶片等產品線。這不是一家會輕易對外宣稱「我們要跟別人合作」的公司——他們的作風一向低調、務實、講求自主控制。
而現在，他們選擇了NVIDIA。
真相：為什麼記憶體控制器非搬不可？
要理解NVHBM的戰略意義，得先回到一個最基本的物理現實：AI算力的瓶頸已經從運算轉移到記憶體。
兆級參數的模型在訓練時，運算核心經常處於「飢餓」狀態——它們在等數據從HBM送過來。這就像一個擁有頂級廚師的廚房，但食材配送的通道太窄、太慢，廚師只能在原地發呆。傳統的HBM架構把記憶體控制器放在XPU上，等於讓廚師還要自己分心去處理食材物流，浪費了寶貴的備料時間和廚房空間。
NVIDIA的做法是：把記憶體控制器從XPU上「移走」，整合到3D HBM堆疊的基底晶片中。這個設計的巧妙之處在於，它讓XPU可以專注做它最擅長的事情——運算，而記憶體管理的工作則交給更靠近HBM的控制器去處理。
從系統層級來看，這不是一個零組件的改良，而是一次架構典範的轉移。NVIDIA正在做的事情，是重新定義XPU、記憶體、網路之間的權責邊界——誰該做什麼、誰該放在哪裡、誰跟誰該靠得更近。這種層級的設計決策，影響的不是一代產品，而是未來五到十年的AI晶片地圖。
NVIDIA正建立標準化的NVHBM實現方案，並由多家記憶體供應商提供，讓NVLink Fusion客戶能更快將客製化AI晶片推向市場。這意味著NVHBM不會是NVIDIA GPU的獨家技術，而是開放給所有採用NVLink Fusion架構的合作夥伴——這背後的盤算相當清楚：NVIDIA要的不只是賣GPU，而是要讓自己的機架級平台成為整個AI基礎設施的核心作業系統。
各方角力：Amazon的盤算與NVIDIA的野心
回到這次合作的關鍵角色。Annapurna Labs將從Trainium4起，在新一代Trainium晶片中支援NVLink Fusion，讓Amazon晶片與NVIDIA GPU能夠在共通的機架級架構下協同運作。
這句話的背後含義極為深遠。Amazon一方面在AI晶片領域持續自主研發，Trainium系列就是他們對抗NVIDIA壟斷的武器；但另一方面，他們又無法完全繞開NVIDIA的軟體生態（CUDA）和系統架構。NVLink Fusion提供了一個折衷方案：Amazon可以在自己的機房裡同時部署Trainium和NVIDIA GPU，兩者在同一套機架級架構下運作，不必各搞各的。
這對Amazon來說是風險分散，對NVIDIA來說則是戰略縱深——他們不再只是單純的晶片供應商，而是整個AI基礎設施的架構定義者。
NVIDIA今日透過NVIDIA NVHBM擴展了NVIDIA NVLink Fusion。這句話值得拆解：NVLink Fusion本來是NVIDIA用來串聯多顆GPU的技術，現在透過NVHBM的加入，Fusion的範疇進一步擴大到異質運算領域——不同廠商的XPU可以在同一架構下協同運作，共享記憶體資源與網路頻寬。
對超大規模雲端服務供應商來說，這是一個極具吸引力的願景：他們不需要在「全部用NVIDIA」和「全部自研」之間做二選一的生死抉擇。NVLink Fusion讓他們可以走一條中間路線——部分採用NVIDIA的技術、部分保留自主彈性，同時確保整體系統的效率不會因為異質整合而打折。這種「柔性綁定」的策略，比單純的技術壟斷來得更高明、也更難被繞過。
隨著AI代理與兆級參數工作負載逐漸成為主流，AI基礎設施的效能不僅取決於運算能力，更取決於運算、記憶體、儲存、網路與軟體能否共同設計為一個統一的系統。這句話幾乎就是NVIDIA整個戰略的濃縮——他們要賣的不是單一晶片，而是一整套從底層到上層的設計邏輯。
深層影響：誰會是下一個客戶？
如果我們把眼光放遠，NVHBM的推出其實釋放了一個強烈訊號：NVIDIA正在加速將GPU領域累積的技術軍火庫，轉化為可對外授權的系統級解決方案。
過去，NVIDIA的先進技術（如記憶體控制器設計、NVLink互連架構）都是GPU的內部資產，外部客戶只能買成品、不能拆開來用。但NVHBM的出現改變了這個遊戲規則——NVIDIA願意把記憶體控制器的設計拿出來，與記憶體供應商共同驗證，並開放給NVLink Fusion的客戶採用。
這背後的商業邏輯是：與其讓客戶徹底繞過NVIDIA去搞自己的架構（比如Google的TPU、微軟的Maia），不如給他們一條「保留NVIDIA架構DNA」的捷徑。客戶仍然可以做自己的客製化XPU，但記憶體子系統、互連架構、軟體堆疊都沿用NVIDIA的設計——這樣一來，NVIDIA即使沒有賣出GPU，也仍然是AI基礎設施的事實標準制定者。
對台灣的半導體供應鏈來說，這個趨勢同樣值得關注。NVHBM將由多家記憶體供應商進行驗證並提供，這意味著HBM的設計和製造流程將出現新的變數——記憶體供應商需要與NVIDIA更緊密地協同開發基底晶片的整合方案，而不只是單純地堆疊DRAM層數。這對具備先進封裝技術與HBM產能的台灣業者來說，既是機會也是挑戰。
未解之問
這項技術的發布，留下了幾個值得深思的問題。
第一，25%的面積釋放聽起來很可觀，但實際效能增益會受到什麼限制？系統層級的瓶頸從來不是單一點的突破就能解決的——如果網路頻寬或軟體排程跟不上，XPU上多出來的25%面積可能只是空轉的電晶體。
第二，NVIDIA把記憶體控制器移到HBM堆疊中，等於提高了HBM的設計複雜度和成本。記憶體供應商願意配合這套新架構到什麼程度？NVIDIA是否能說服整個產業鏈為了這套設計額外投資研發資源？
第三，Amazon之後，誰會是下一個採用NVHBM的客戶？Google、微軟、Meta都有自己的AI晶片計畫，他們會選擇加入NVLink Fusion陣營，還是堅持走完全自主的路線？這將決定NVHBM能否從Amazon的「獨家合作」擴展為「產業標準」。
最後，也是最根本的問題：當NVIDIA把越來越多的系統設計元件開放出去，他們的最終目的是什麼？是讓整個AI基礎設施都圍繞著NVIDIA定義的架構運轉，還是在某個時間點會把這些開放出去的技術重新收攏、變成NVIDIA生態系的一道護城河？
這些問題，大概連Annapurna Labs的工程師們都還在尋找答案。
編輯觀點：NVHBM這步棋，與其說是技術突破，不如說是NVIDIA對AI基礎設施話語權的一次精準卡位。把記憶體控制器從XPU搬走，表面上是為運算晶片省面積，實際上是把系統設計的控制點從晶片層級拉升到機架層級。當客戶開始習慣在NVIDIA定義的架構框架內做創新，他們就不再只是「買NVIDIA晶片的人」，而是「在NVIDIA生態系裡長出來的合作夥伴」。這種層級的鎖定效應，遠比單一晶片的效能優勢來得深遠。對競爭者來說，要對抗的不是NVIDIA的GPU效能，而是他們重新定義問題的方式——當NVIDIA把戰場從「誰的晶片跑得快」轉移到「誰來定義整個系統怎麼設計」，這場賽局的規則已經徹底改變了。
你的下一步：如果你是在AI基礎設施領域的決策者，現在該做的不是急著比較各家晶片的規格數字，而是重新審視一個更根本的問題：在未來三到五年的AI系統設計藍圖中，你願意把多少控制權交給NVIDIA定義的架構框架？這不是一個技術問題，而是一個策略抉擇——而這項抉擇，可能會決定你的AI投資在五年後是形成競爭優勢，還是變成需要重構的技術債。
本文改寫整理自公開新聞來源，原始報導由Yahoo奇摩新聞發布。
常見問題 FAQ
NVHBM和現有的HBM4E有什麼不同？
最大的差異在於記憶體控制器的位置。傳統HBM架構把控制器放在XPU運算晶片上，而NVHBM把NVIDIA客製化的記憶體控制器整合到3D HBM堆疊的基底晶片中，這樣做能提升30%頻寬、降低15%功耗，並為XPU釋放多達25%的面積。
Amazon為什麼要參與NVIDIA的NVHBM技術合作？
Amazon旗下的Annapurna Labs希望透過這項合作，讓自研的Trainium晶片能夠與NVIDIA GPU在共通的機架級架構下協同運作。這是一種風險分散的戰略——Amazon不需要在「全部用NVIDIA」和「全部自研」之間二選一，而是可以走一條中間路線，既保留自主彈性，又能確保系統效率。
NVHBM會開放給NVIDIA以外的客戶使用嗎？
會。NVIDIA正建立標準化的NVHBM實現方案，並由多家記憶體供應商提供，讓NVLink Fusion的客戶也能採用這項先進記憶體技術。目前Amazon旗下的Annapurna Labs是首家合作夥伴，但NVIDIA的目標是讓NVHBM成為整個NVLink Fusion生態系的共用技術。
NVHBM對台灣半導體供應鏈有什麼影響？
NVHBM需要記憶體供應商與NVIDIA更緊密地協同開發基底晶片的整合方案，而不只是單純堆疊DRAM層數。這對具備先進封裝技術與HBM產能的台灣業者來說，既是技術升級的機會，也意味著需要投入更多研發資源來配合NVIDIA的新架構設計。（建議諮詢半導體產業專業分析師以了解具體影響）
這項技術什麼時候會實際商用？
NVIDIA並未在本次發布中給出具體時間表。但從Annapurna Labs規劃從Trainium4開始支援NVLink Fusion來看，實際產品導入可能落在未來一到兩代的晶片規劃週期內，具體時程仍需觀察後續的產品發布訊息。
※ 此篇文章由 AI 改寫或生成，內容僅供參考，可能存在錯誤或不準確之處。
