輝達把頂級記憶體砍到剩五分之一!黃仁勳一場缺貨危機如何改寫AI晶片賽局?

一句話總結:面對記憶體大缺貨,黃仁勳沒有選擇硬撐,反而順勢把每顆晶片的頂級記憶體砍到只剩原本規劃的兩成,用機櫃級系統戰取代單卡規格戰,一面守住毛利率、一面把競爭對手逼入追趕賽局。

一句話總結:面對記憶體大缺貨,黃仁勳沒有選擇硬撐,反而順勢把每顆晶片的頂級記憶體砍到只剩原本規劃的兩成,用機櫃級系統戰取代單卡規格戰,一面守住毛利率、一面把競爭對手逼入追趕賽局。

核心要點

  1. 記憶體缺貨到底多嚴重?輝達下一代旗艦晶片Rubin Ultra原本規劃配備1TB的HBM4E頂級記憶體,現在測試版本直接砍到最低192 GB,比前一代Vera Rubin的288 GB還少,連原有水準都不到。
  2. 為什麼要這樣做?算術問題而已。HBM4E產能到2027年依然極度緊張。輝達盤算很簡單:同樣的記憶體總量,做一顆1TB晶片,不如做成五顆192 GB晶片。對微軟、Meta這些客戶來說,現在拿到五台「瘦一點」的伺服器,遠比拿到一台「滿血頂配」更務實。
  3. 記憶體變小,AI還跑得動嗎?大語言模型本來就不是靠單一晶片運作。輝達用NVLink把576顆晶片串成一個超級運算體,單卡只剩192 GB沒關係,串起來就是超過100 TB的共享記憶體池。軟體眼裡,這576顆就是一顆超級大晶片。
  4. 這招還順便守住毛利率。到Vera Rubin這一代,記憶體成本已經占整台伺服器機櫃的25%到30%,某些AI晶片組甚至高達60%。如果輝達堅持塞滿最貴的HBM,客戶的錢等於直接流向SK海力士、三星與美光。砍記憶體用量,就是把利潤留在自己口袋
  5. 超微為何急著推整機櫃方案?如果比賽只比單晶片規格,超微完全有機會平起平坐。但輝達把戰場拉到機櫃層級——單卡記憶體變小後,晶片間的通訊效率變成勝負關鍵。超微如果不跟進系統級設計,就會被困在單卡思維裡;跟進了,又得在輝達耕耘多年的領域苦苦追趕。
  6. 記憶體廠的紅利被稀釋了嗎?記憶體的結構性短缺預計持續到2027年,定價權仍在供應商手裡。只是過去那種「所有頂級晶片都會裝滿最高階記憶體」的預測需要修正——中階配置產品的占比會提高,記憶體廠的成長曲線會比最樂觀的預測稍微平緩一些。

其實輝達不是第一次做這種妥協。之前Vera CPU的總記憶體容量就從54 TB降到28 TB,原因一模一樣——全世界都在搶記憶體,製造商真的交不出那麼多貨。

但有趣的是,輝達官方對這件事的說法很有意思:「我們正持續優化運算、網路和記憶體的組合,為客戶提供最佳的效能和效率。」這句話翻成白話文就是:既然記憶體不夠,那我們就重新定義什麼叫「夠用」

怎麼重新定義?輝達把AI運算切成兩個階段來看。「理解問題」階段需要大量算力,對記憶體容量依賴度低;「生成回答」階段要處理長文章和複雜對話,就非常吃記憶體。於是輝達做了一款叫Rubin CPX的晶片,專門負責理解階段,改用便宜得多的一般記憶體;生成階段暴增的暫存資料,則丟到一層新的快閃記憶體暫放。從晶片、網路到儲存重新分工——這就是所謂的「優化組合」,不是降級,是重新設計

說真的,這場記憶體缺貨危機,反而讓黃仁勳有了一個完美的藉口,去推動他一直想做的事:把比賽規則從「單卡規格戰」改成「系統整合戰」

你想,如果輝達硬撐著把1TB塞滿,客戶買設備的錢有很大一部分會直接流進記憶體三巨頭的口袋。現在單卡記憶體砍到192 GB,一樣的記憶體總量能做出五倍數量的晶片,客戶拿到更多設備、輝達守住毛利率、記憶體廠依然賣出同樣數量的記憶體——三贏?不,是輝達贏兩次

編輯觀點:從產業面來看,黃仁勳這步棋下得非常漂亮。表面上是「妥協」,實際上是「定錨」。他把記憶體缺貨這個所有人都頭痛的問題,轉換成一個重新定義產業標準的機會。當市場接受「機櫃級效能」取代「單卡規格」成為評判標準,輝達的NVLink和CUDA生態系就成了無人能撼動的護城河。超微現在急著推整機櫃方案,恰恰證明了這場仗已經在輝達的主場開打。對一般投資人來說,與其追單一記憶體廠的短期缺貨題材,不如留意那些能在系統層級解決問題的企業——瓶頸在哪裡,價值就在哪裡

話說回來,這個低容量配置很可能只是2027年初期缺貨時的權宜之計。許多分析師指出,只要未來記憶體產能順利提升,高容量版本還是有機會回歸。市場不必把暫時的測試版當成永久降規格——這比較像是一個「在限制條件下求生存」的聰明解法,而不是產品路線的永久轉向。

而且少堆幾層記憶體,發熱跟耗電也跟著降低。在單櫃動輒數百千瓦的機房裡,這同樣是巨大優勢。說句實在話,與其追求帳面上的1TB,不如追求實際能用的整體算力——這才是客戶真正在乎的事。

記憶體是目前AI基礎建設最大的瓶頸,這一點無庸置疑。供應量、良率與價格,正實實在在地限制著產品的設計與出貨速度。但整個產業並沒有坐以待斃,從輝達到超微,大家正從不同方向尋找解答。

記憶體短缺不會在一夜之間消失,但解決問題的方法已經在各個層面同步推進。而黃仁勳已經用行動告訴所有人:與其被瓶頸卡住,不如讓瓶頸變成你的武器。

接下來,你該思考的是

如果你關注AI投資,與其追著記憶體報價跑,不如把目光放在那些「能在限制中找出路」的系統級玩家。如果你在科技業工作,這場轉變意味著單一硬體規格的優勢正在讓位給系統整合能力——你的技能組合,準備好迎接這個變化了嗎?

本文改寫整理自公開新聞來源,原始報導由科技新報發布。

常見問題 FAQ

輝達為什麼要把Rubin Ultra的記憶體從1TB砍到192GB?

直接原因是HBM4E記憶體產能嚴重不足,到2027年都依然緊張。同樣的記憶體總量,做一顆1TB晶片只能產出少量頂級產品,但做成192 GB可以生產約五倍數量的晶片,對急著擴充算力的雲端巨頭來說更有價值。

記憶體變小會影響AI模型運作嗎?

不會。大語言模型本來就不是靠單一晶片運作,輝達透過NVLink把576顆晶片串成超級運算整體,共享超過100 TB的記憶體池。同時把AI任務分層,理解階段和生成階段用不同等級的記憶體分工處理,整體效能不受影響。

這對SK海力士、三星、美光等記憶體廠是利空嗎?

不完全是。記憶體結構性短缺持續到2027年,定價權仍在供應商手中。只是過去那種「所有頂級晶片都會塞滿最高階記憶體」的預期需要修正,中階配置產品占比提高,記憶體廠的成長曲線會比最樂觀的預測平緩一些,但缺貨紅利依然存在。

超微(AMD)為什麼也開始推整機櫃方案?

因為輝達把競爭規則從「單卡規格戰」改成「機櫃級系統戰」。單晶片記憶體變小後,晶片間的通訊效率成了勝負關鍵,超微如果只賣單張晶片讓客戶自己串聯,整體效率會被輝達的整合生態系遠遠甩開,所以必須跟進系統級設計。

現在投資AI相關標的,該注意什麼?

與其追單一記憶體廠的短期缺貨題材,不如留意那些能在系統層級解決問題的企業。瓶頸在哪裡,價值就在哪裡——系統整合能力、軟體生態系、晶片互連技術,這些才是更深的護城河。

※ 此篇文章由 AI 改寫或生成,內容僅供參考,可能存在錯誤或不準確之處。