當生成式AI模型參數量從千億級跨入兆級大關，整個半導體產業都在問同一個問題：摩爾定律放緩之後，算力還能從哪裡擠出來？輝達給出的最新答案是——把記憶體控制器從運算晶粒上「搬走」。
一個數位直接顛覆了過去十年的晶片設計慣性：最高25%的XPU運算晶粒面積，過去是被記憶體控制器白白吃掉的。輝達本週發表的NVHBM技術，等於直接在HBM的Base Die上動刀，把客製化記憶體控制器整合進3D堆疊裡，讓運算晶粒回歸純粹的運算本業。
這不是輝達第一次玩「架構級」的創新，但這一次的意義截然不同。過去的HBM演進，升級重點擺在顆粒本身的速度與頻寬；NVHBM的突破在於，輝達把觸角伸進記憶體堆疊的底層邏輯，首度將自家開發的記憶體控制器植入Base Die，等於重新定義了XPU與記憶體之間的「分工方式」。
結果如何？跟標準的HBM4E相比，NVHBM的記憶體頻寬最高可以拉出30%的差距，HBM功耗則壓低15%。這組數字放在AI訓練場景裡，代表的不只是帳面上的效能提升，更意味著同一個機櫃能塞進更多運算單元、散熱負載跟著下降、整體擁有成本有機會出現結構性的改善。
表象：一場記憶體規格戰
從表面上看，NVHBM就是輝達在HBM4E基礎上提出的客製化版本，頻寬更高、功耗更低，看起來像是一場規格數字的軍備競賽。但真正讓業界繃緊神經的，是輝達這套打法背後的平台思維。
輝達這次同步揭露了NVLink Fusion平台的擴展藍圖。NVHBM不是單點突破的零組件升級，而是整個NVLink Fusion生態系的一塊關鍵拼圖。這個平台的邏輯很直接：讓任何一家AI晶片業者——包含那些正在自研訓練晶片的雲端大廠——都能把自己的XPU或CPU「插進」輝達的機架級架構。
亞馬遜旗下的Annapurna Labs率先跳下來合作，成為NVHBM的第一家導入客戶。這筆合作不只是技術層面的測試，更是市場信號：Annapurna Labs的下一代Trainium晶片將從Trainium4開始支援NVLink Fusion，代表亞馬遜的自研AI晶片將與輝達GPU在共同的機架級架構下協同運作。
從產業面來看，輝達這步棋下得非常精準。AI基礎設施的競爭已經從單點算力比拚，轉向整個系統層級的整合效率。NVHBM把記憶體控制器移出XPU，釋放出的面積可以拿來塞更多運算單元或加速電路，這對那些想在自有晶片上做差異化設計的業者來說，是極具說服力的誘因。Annapurna Labs的加入，等於為這個平台背書——連最大的雲端業者都願意把自研晶片放上輝達的機架，其他業者跟進的門檻只會愈來愈低。換個角度想，這其實是輝達把「護城河」從GPU晶片本身，擴大到整個機架級的生態系。
真相：運算瓶頸不在算力，在記憶體
AI業界這幾年有個心照不宣的痛點：GPU的運算能力持續飆升，但記憶體頻寬與功耗的成長曲線卻跟不上。當AI Agent和多模態模型愈來愈龐大，資料在運算晶粒與記憶體之間搬運的延遲與能耗，已經成為制約訓練效率的最大瓶頸。
傳統的HBM架構把記憶體控制器放在XPU運算晶粒上，這在十年前是合理的選擇——那時候運算單元還沒這麼多，晶片面積相對寬裕。但現在一顆AI加速晶片上動輒塞進上千億個電晶體，每一平方毫米都是珍稀資源。記憶體控制器佔用的面積，本來可以用來增加矩陣乘加單元或快取記憶體，卻被「行政作業」給佔據了。
輝達NVHBM的解法很乾脆：直接把控制器搬走，搬到3D HBM堆疊中的Base Die。這個架構調整的巧妙之處在於，Base Die原本在HBM堆疊中就扮演著邏輯介面的角色，把控制器整合進去，等於讓「交通警察」直接駐紮在「路口」，不需要再從遠處的「指揮中心」調度。
釋放出的XPU面積最高可達25%——這個數字代表的意義，不是節省成本，而是在同樣的晶片尺寸限制下，能夠塞進更多運算資源，直接拉高每顆晶片的AI訓練吞吐量。
各方角力：輝達的平台野望與AWS的算力焦慮
Annapurna Labs的加入，是這則新聞裡最值得放大檢視的訊號。AWS是全球最大的雲端服務商，也是少數幾家已經大規模量產自研AI訓練晶片的業者。Trainium系列從第一代發展到第四代，AWS一直在努力降低對輝達GPU的依賴。
但這次的合作方向恰恰相反——Trainium4選擇與輝達的NVLink Fusion整合，代表亞馬遜在「完全自研」與「融入輝達生態」之間，找到了一個務實的中間路線。
對AWS來說，自家資料中心裡同時部署著Trainium與輝達GPU，如果兩者能透過統一的機架級架構互聯，運算資源的調度彈性將大幅提升。對輝達來說，NVLink Fusion平台多了AWS這個指標性客戶，等於向整個半導體業界宣告：即使是自研晶片最積極的雲端大廠，最終還是選擇「接入輝達的體系」。
Annapurna Labs的Trainium4支援NVLink Fusion，這個合作框架的精髓在於「互操作性」。AWS沒有放棄自研晶片的路線，但同時承認了輝達在機架級互聯技術上的主導地位。說穿了，這是一個彼此都需要對方的妥協方案：AWS需要輝達的Scale-Up架構來提升訓練效率，輝達需要AWS的導入來驗證NVLink Fusion的通用性。對其他正在開發AI加速晶片的新創或科技大廠來說，這個示範效應很強——連AWS都選擇「合作而非對抗」，純粹繞過輝達專利體系的策略，現實面恐怕愈來愈難走通。
輝達也同步宣布，NVHBM將建立標準化的實作方式，由多家記憶體供應商驗證及量產。這個布局的戰略意圖很明確：不讓單一記憶體廠商綁死供應鏈，同時降低AI晶片業者在不同供應商之間進行整合的工程負擔。對那些想導入NVHBM但研發資源有限的業者來說，這等於大幅縮短了從設計到量產的上市時間。
深層影響：誰在焦慮？誰在偷笑？
NVHBM的推出，對不同陣營的玩家來說，意義截然不同。
對於已經在輝達CUDA生態系深耕的開發者，這代表未來的訓練工作負載將在同樣的軟體堆疊下，獲得更高的硬體效率。對於正在開發自研AI晶片的業者——無論是雲端大廠還是新創公司——NVLink Fusion提供了一條「打不贏就加入」的務實路徑，但同時也意味著某種程度的架構依賴。
對於記憶體原廠如SK海力士、三星、美光，輝達的標準化計畫既是機會也是挑戰。能夠打入NVHBM供應鏈的業者，將獲得穩定的高階訂單；但輝達對Base Die設計的主導權，也壓縮了記憶體廠在控制器層面的差異化空間。
如果我們把時間軸往後推演三到五年，NVHBM這類架構級創新的真正衝擊，或許不在規格數字本身，而在於它重新劃定了「晶片設計的責任邊界」。當記憶體控制器從XPU移往HBM Base Die，晶片設計團隊的職能邊界也跟著移動——未來AI加速晶片的成敗，將更取決於系統級的協同設計能力，而不只是單一晶粒的電路優化。
對一般讀者來說，NVHBM可能只是另一則硬體新聞，但對整個AI產業鏈來說，這是一次「基礎設施層級的權力重分配」。輝達正在把競爭從GPU晶片層級拉升到機架級系統層級，這跟當年蘋果從賣處理器轉向賣整個生態系的手法是同一套邏輯。一旦開發者習慣了NVLink Fusion的程式設計模型，其他競爭對手要從系統層面取代輝達的難度，將比從晶片層面取代高出好幾個數量級。說白了，輝達賣的不只是算力，而是整個AI資料中心的「交通規則」。
未解之問
NVHBM的架構創新確實亮眼，但幾個關鍵問題仍有待時間檢驗。第一，把記憶體控制器移到Base Die，雖然釋放了XPU面積，但Base Die本身的散熱與供電設計能否承受更高的整合度？3D堆疊的熱管理本來就是難題，加入控制器後熱點的分布將更複雜。
第二，標準化NVHBM實作方式這個目標，在實際執行面上會遇到多大的阻力？不同記憶體供應商的製程與設計哲學各不相同，輝達要如何在維持效能一致性的同時，讓多家供應商都能順利量產？
第三，也是最深層的提問：當輝達的影響力從GPU晶粒延伸到機架級架構、再到記憶體堆疊的底層設計，整個半導體產業的生態平衡還能維持多久？監管機構會如何看待一家公司同時掌握運算架構、互聯技術與記憶體介面定義權的局面？
回到最開始的問題：算力還能從哪裡擠出來？輝達的答案是「從架構重組裡要效率」。但這個答案本身就指向另一個更大的問題——當架構創新也走到極限之後，下一步該怎麼辦？或許，真正未被解答的，是整個AI硬體產業對「持續倍數成長」這個預設前提的集體信仰。
給產業決策者的一句話： NVHBM不只是一次記憶體升級，它標誌著AI基礎設施的競爭，正式從「晶片對晶片」進入「平台對平台」的階段。你的硬體策略，還在用單點思維在規劃嗎？
本文改寫整理自公開新聞來源，原始報導由科技新報發布。
常見問題 FAQ
NVHBM跟現有的HBM4E有什麼不同？
最大差異在於記憶體控制器的位置。NVHBM把輝達客製化的記憶體控制器從XPU運算晶粒移到3D HBM堆疊中的Base Die，這讓XPU晶粒最多可釋放25%的面積用來增加運算單元，同時頻寬提升30%、功耗降低15%。
為什麼AWS Annapurna Labs願意率先採用NVHBM？
因為Trainium4晶片導入NVLink Fusion後，AWS的自研AI晶片能與輝達GPU在共同的機架級架構下協作，提升AI工作負載的效能與彈性。AWS既維持自研晶片路線，又能享受輝達Scale-Up互聯技術的優勢。
NVHBM對其他AI晶片業者有什麼影響？
輝達計劃建立標準化的NVHBM實作方式，並由多家記憶體供應商驗證，這能降低業者在不同供應商之間整合的工程成本，縮短客製化XPU從設計到上市的時間。但同時也意味著更多業者可能選擇融入輝達的生態系。
NVHBM何時會量產？
輝達未公布具體量產時間表，但Annapurna Labs已確定下一代Trainium晶片將從Trainium4開始支援NVLink Fusion，導入時程可作為參考指標。
※ 此篇文章由 AI 改寫或生成，內容僅供參考，可能存在錯誤或不準確之處。
