根據NVIDIA於Hot Chips 2026大會前後陸續釋出的官方技術白皮書與架構宣言，這家GPU龍頭正式定調了下一代高頻寬記憶體的戰略方向——不是等待JEDEC標準慢慢演化，而是自己跳下來制定遊戲規則。全新客製化高頻寬記憶體架構「NVHBM」，透過將記憶體控制器直接移入HBM堆疊內部，徹底顛覆了過去十幾年來控制器必須佔用主運算裸片面積的物理設計慣例。說直白一點，就是把過去浪費在「交通指揮」的晶片空間，還給真正在算數學的運算核心。
這套架構的技術數字相當有說服力：相較於標準JEDEC HBM4E規範，NVHBM能實現最高30%的記憶體頻寬提升、降低15%的HBM運作功耗，並為處理器運算裸片釋出高達25%的額外可用矽片空間。如果疊加上三星日前在Hot Chips 2026上確認的16Gbps HBM4E晶片進度，單組NVHBM堆疊的理論頻寬最高將達到5.2TB/s左右——這個數字已經不是「頻寬夠用」，而是「頻寬大到運算核心可能追不上」的等級。
把控制器塞進HBM堆疊：一場醞釀多年的架構賭注
傳統HBM設計有個根深蒂固的痛點：記憶體控制器必須放在先進製程的運算裸片上。這意味著每顆GPU或XPU在設計時，都得割出一塊寶貴的矽片面積給控制器，而這些電晶體原本可以用來塞更多CUDA核心或SRAM快取。NVIDIA這次做的，就是把控制器直接轉移整合進HBM堆疊晶片內部，等於把「管理記憶體流量」的任務全部外包給記憶體本身。
根據NVIDIA公布的設計數據，這項架構移轉帶來的面積效益相當可觀。除了控制器本身移出之外，NVHBM採用的客製化實體介面（PHY）更將I/O面積相較JEDEC HBM4E最多縮減達67%。更窄的介面設計也大幅簡化了中介層（Interposer）的走線佈局難度，在整體封裝晶片佈局中釋放高達80%的額外可用矽片空間。NVIDIA特別強調，縮小PHY面積能顯著減輕中介層上的走線限制——這句話翻譯成白話文就是：以後要在大型運算裸片周圍塞更多顆HBM堆疊，會比以前容易非常多。
【編輯觀點】從產業面來看，NVIDIA推NVHBM的算盤絕對不只「效能提升」這麼單純。過去幾年，HBM的供貨與規格幾乎被三星、SK海力士綁定，NVIDIA作為最大買家卻沒有太多規格主導權。現在自己跳出來定義NVHBM這套客製化架構，等於宣告「以後HBM怎麼設計，我說了算」。更深的意圖在於：透過開放多家記憶體供應商相容性驗證，NVIDIA正在建立一套脫離JEDEC標準的封閉生態系，長期來看可能讓競爭對手在HBM相容性上處於被動。這招有點像Apple當年拋棄Intel搞Arm晶片，只是NVIDIA玩的是記憶體介面。
1GW資料中心的算力算術：15％功耗節省不等於15％電費帳單下降
NVHBM實現HBM功耗降低15%，這項數據如果只看單顆晶片，感受可能不強烈。但NVIDIA在發表簡報中刻意算了一筆帳，場景設定相當實際：一座採用單顆功耗2000W XPU、總用電規模達到1GW（百萬瓩，約等於一座核電機組）的頂級AI資料中心。
在這個規模下，單純透過NVHBM節省下來的電力與散熱餘量（Thermal Headroom），理論上即可額外支援部署高達15,000顆（1.5萬個）XPU運算晶片。這個數字的意義是：資料中心不用拉更多電、不用蓋更大的冷卻系統，就能白白多塞一萬五千顆晶片進機房。對於AWS、Google、微軟這些正在全球瘋狂圈地蓋資料中心的雲端巨頭來說，這不是節能議題，是純粹的投資報酬率問題。
用另一個角度算：如果單顆XPU造價假設落在3萬到5萬美元之間，多部署1.5萬顆代表同一座資料中心的硬體投資報酬上限直接墊高了4.5億到7.5億美元。這還不計算節省的電費與冷卻成本。所以說，NVHBM的15%功耗降低，對一般消費者來說可能無感，但對超大規模資料中心的採購長來說，這個數字值得他在董事會上拍桌子。
三星16Gbps HBM4E到位：5.2TB/s的理論天花板怎麼算出來的？
記憶體巨頭三星在Hot Chips 2026大會上正式確認，正著手準備出貨單引腳傳輸速率達16Gbps的全新HBM4E晶片，較目前14Gbps版本顯著躍升。這項進度比市場原先預期的2027年上半年提前了不少。現行14Gbps的HBM4E透過2048個引腳可提供每堆疊3.6TB/s的記憶體頻寬，而16Gbps版本則將單堆疊頻寬推向4TB/s大關。
如果以16Gbps HBM4E的4TB/s為基準，疊加上NVHBM宣稱的30%額外頻寬提升，單組NVHBM堆疊的理論頻寬最高將達到5.2TB/s左右。這個數字背後有幾個值得拆解的技術細節：第一，NVHBM的頻寬提升並非單純靠拉高時脈，而是來自控制器架構與PHY介面的雙重優化；第二，NVIDIA並未明確說明這30%是在哪個基準點上計算的，但在官方技術簡報中引用的比較對象確實是JEDEC HBM4E標準規範。
話說回來，5.2TB/s是「理論峰值頻寬」，實際系統中能跑到多少還得看記憶體控制器的調度效率、資料存取模式的隨機程度、以及封裝散熱能否壓得住。不過這就像超跑極速數字一樣——實際道路開不到，但廣告不能寫太低。
亞馬遜Annapurna Labs搶頭香：雲端自研晶片的NVHBM時代
為加速產業落地，NVIDIA表示NVHBM架構將開放接受多家記憶體晶片供應商的相容性驗證，以簡化終端客戶與雲端服務商的供應鏈認證流程。目前，亞馬遜旗下的客製化晶片設計部門Annapurna Labs已成為首家公開確認將與NVIDIA合作推進NVHBM技術的合作夥伴。
Annapurna Labs是AWS自研AI訓練與推論晶片Trainium、Inferentia系列的幕後推手。這家團隊過去幾年在雲端晶片領域的布局相當積極，但一直以來在HBM整合上都依循標準JEDEC規範。這次率先跳出來擁抱NVHBM，釋放的訊號很明確：AWS認為NVHBM帶來的頻寬與功耗效益，已經值得脫離標準規格、走客製化路線。
預料NVHBM未來將導入AWS旗下自研AI晶片陣容，從Trainium 2之後的下一代產品開始，有機會看到AWS在re:Invent大會上端出搭載NVHBM的客製化晶片新架構。對NVIDIA來說，Annapurna Labs的背書不只是技術驗證，更是一張通往雲端資料中心核心機房的通行證——而且這張通行證是競爭對手短期內拿不到的。
【延伸觀點】對一般消費者來說，NVHBM這類技術最直接的影響可能不是效能，而是價格。根據業界先前流出的HBM4價格趨勢，記憶體價格已有「翻倍暴漲」的呼聲。現在NVIDIA又導入客製化NVHBM，代表每一顆HBM堆疊都多了一道NVIDIA專屬的設計與驗證成本。如果未來消費級顯卡也導入NVHBM或類似架構，顯卡價格恐怕只會往上走。短期內受惠的會是雲端服務商和AI新創，但長期來看，這些成本最終還是會轉嫁到終端使用者身上。
數據背後的啟示：NVIDIA正在建立HBM的「NVIDIA Inside」圍牆
從NVHBM的整體技術布局來看，有幾個嚴謹的結論可以推敲。第一，NVIDIA已經從「採用標準HBM的晶片設計商」轉變為「定義HBM規格的平台制定者」。這不只是技術升級，是商業模式的質變——過去NVIDIA向三星、SK海力士買標準品，未來將是記憶體廠商按NVIDIA的規格圖紙生產客製化晶片。
第二，5.2TB/s的理論頻寬與15%的功耗降低，對於超大規模資料中心的營運數學模型有實質影響。一座1GW資料中心能多塞1.5萬顆XPU，這不是邊際優化，是資本支出效率的結構性提升。對於正在AI軍備競賽中瘋狂燒錢的雲端巨頭來說，NVHBM帶來的算力密度提升可能比HBM3E到HBM4的世代升級更有吸引力。
第三，也是最值得追蹤的——Annapurna Labs的率先加入，代表NVHBM從NVIDIA自有GPU產品線向外擴散到雲端自研晶片生態系。如果未來微軟、Google也跟進，NVHBM將成為AI加速器領域的事實標準之一。到那時，JEDEC的HBM標準進度可能會越來越落後於NVIDIA主導的客製化規格，產業話語權將進一步向NVIDIA傾斜。
從技術規格來看，NVHBM確實解決了傳統HBM佔用運算裸片面積的物理設計瓶頸。但這項技術真正的戰略意義，不在於30%的頻寬或25%的面積釋放，而在於NVIDIA向整個半導體供應鏈傳遞了一個訊號：AI晶片的記憶體架構，未來由我定義。至於這條路最終會讓AI算力變得更便宜還是更貴，取決於NVIDIA選擇把這套架構開放多少、授權費怎麼收——還有競爭對手要花幾年才追得上。
對於正在評估下一代AI基礎設施的技術決策者來說，NVHBM的導入節奏與供應鏈成熟度，將是未來12到18個月內必須緊盯的關鍵變數。建議從三個維度持續追蹤：三星與SK海力士的NVHBM相容性驗證進度、Annapurna Labs的產品化時程、以及JEDEC是否會在某個時間點回頭嘗試將NVHBM的部分設計納入下一版標準。這三個變數的交互作用，將決定這套架構最終是NVIDIA的封閉武器、還是整個產業的共同資產。
本文改寫整理自公開新聞來源，原始報導由T客邦發布。
常見問題 FAQ
NVHBM跟標準HBM有什麼不一樣？
最大差異在於記憶體控制器的位置。標準HBM把控制器放在運算晶片上，佔用寶貴的矽片面積；NVHBM把控制器直接整合進HBM堆疊內部，釋出運算裸片多達25%的空間，同時提升頻寬30%、降低功耗15%。
5.2TB/s的頻寬是怎麼算出來的？
以三星新一代16Gbps HBM4E為基準，單堆疊頻寬達4TB/s，再疊加NVHBM架構宣稱的30%頻寬提升，理論峰值約為5.2TB/s。這是實驗室數值，實際系統效能會受到控制器調度效率與散熱條件影響。
NVHBM什麼時候會量產？哪些廠商會用？
NVIDIA尚未公布具體量產時程，但三星已著手準備出貨16Gbps HBM4E，Annapurna Labs（亞馬遜旗下）是首家公開確認合作的晶片設計商。預估2027年下半年至2028年間可望看到搭載NVHBM的產品問世。
NVHBM會讓顯示卡變得更貴嗎？
從供應鏈成本來看，客製化HBM涉及額外的設計與驗證費用，加上HBM4本身價格已有上漲趨勢，未來導入消費級顯卡確實可能推升終端售價。短期內NVHBM將優先應用在資料中心級產品，消費者影響有待觀察。
除了NVIDIA，其他晶片廠能用NVHBM嗎？
NVIDIA表示將開放多家記憶體供應商進行相容性驗證，但NVHBM的架構設計與專利歸屬預計將由NVIDIA主導。競爭對手若要採用，可能需要取得授權或開發自家替代方案，短期內採用門檻不低。
※ 此篇文章由 AI 改寫或生成，內容僅供參考，可能存在錯誤或不準確之處。
