根據《彭博》報導,OpenAI近日對外揭露其自研AI晶片「Jalapeno」的測試結果,宣稱在兩個關鍵維度上擊敗了輝達(NVIDIA)目前的產品GB300。這不是一場虛張聲勢的宣傳,而是公共基準測試中的首次正面交鋒。
Jalapeno勝出的兩個領域,恰好是當前AI運算最痛的兩塊軟肋:每單位耗能下的AI處理吞吐量,以及回應速度(延遲)。說白了,就是「省電」又「反應快」。這對每天燒掉驚人電費、又得面對用戶不耐煩等待的AI服務商來說,簡直是夢寐以求的組合。
節省成本才是真議題:OpenAI的算力焦慮
OpenAI晶片負責人Richard Ho受訪時很直白地指出,隨著Jalapeno廣泛應用,「將明顯降低OpenAI的成本」。這句話背後藏著一個巨大的算力焦慮——訓練GPT系列模型已經讓OpenAI的營運成本像天文數字,推論階段的成本更是隨著用戶暴增而失控。
據業界估算,大型語言模型推論階段的運算成本,往往佔整體營運成本的六成以上。這也是為什麼OpenAI急著跳下來搞晶片。他們找上博通(Broadcom)合作,從去年宣佈協議到今年六月大力宣傳開發速度,再到現在釋出測試數據,時間壓縮得異常緊湊。Richard Ho甚至用「創紀錄的時間內完成」來形容這顆晶片的開發進度。
編輯觀點:OpenAI的Jalapeno策略,說穿了就是「不想被輝達掐著脖子走」。但問題來了——晶片不是軟體,沒有「迭代越快越好」這回事。博通雖然是ASIC(客製化晶片)的老手,但AI推論晶片牽涉的是整個軟體生態系的相容性。輝達的CUDA生態系累積了十幾年的開發者紅利,這不是一顆省電晶片能輕易取代的。OpenAI此舉更大意義在於「議價籌碼」——手上多一張牌,跟老黃談價格的時候,聲音就能大一點。對一般消費者來說,短期內看不到什麼改變,但三到五年後,如果Jalapeno真的量產且成本降下來,你訂閱ChatGPT的月費或許有機會不再往上漲。
推論階段的戰爭:Jalapeno不碰訓練這塊硬骨頭
有趣的是,OpenAI並沒有膨風到說Jalapeno什麼都能打。Richard Ho明確承認,這顆晶片的目標是AI的推論階段——也就是模型已經訓練完畢、開始實際回應使用者提示詞的階段。他們沒有拿Jalapeno跟輝達剛出貨的下一代晶片Vera Rubin對標,也沒有說它能取代輝達在模型訓練領域的霸主地位。
訓練AI模型,就像在蓋一棟大樓的結構;推論則是實際讓住戶進駐使用。輝達的GPU在「蓋大樓」這件事上依然是無可爭議的王者,但OpenAI現在想做的是:讓「住戶使用」的營運成本降到最低。根據測試數據,Jalapeno在能耗效率上的表現勝過GB300,這意味著OpenAI可以用更少的電,跑更多的用戶請求。
不過話說回來,OpenAI也自己打臉了——他們短期內不會用Jalapeno取代Cerebras等其他供應商。原因很赤裸:運算需求太大了。OpenAI對算力的飢渴已經到了「只要是能跑的晶片我全都要」的程度,這種多供應商策略,說好聽是分散風險,說實際點就是「沒人供貨足夠讓我有恃無恐」。
Jalapeno的雙面刃:效能與成本如何取捨?
Richard Ho在訪談中提到一個關鍵差異:有些晶片擅長運行AI任務(吞吐量優先),有些擅長快速回應(延遲優先),但Jalapeno兩者兼具。這是個漂亮的說法,但真正的挑戰在於——OpenAI打算讓哪些AI模型跑在Jalapeno上?
根據OpenAI的規劃,他們將決定不同AI模型採用Jalapeno晶片的比例,客戶則能因此受惠於更節省成本或性能更佳的選擇。換句話說,未來你使用ChatGPT時,背後可能是在不同晶片上運算的。有些回應特別快,可能是Jalapeno在跑;有些複雜任務特別準,可能是輝達的GPU在撐。
這種「混血架構」其實不是新鮮事,但由OpenAI這樣規模的公司帶頭驗證,意義完全不同。據了解,Jalapeno第二版的開發工作已接近尾聲,預計在未來幾個月完成tape out(下線)。這個迭代速度,確實讓不少半導體業界人士跌破眼鏡。
從數據面來看,OpenAI這場晶片戰有幾個數字值得記住:能耗效率領先、回應速度勝出、開發時程創紀錄。但同樣重要的是——他們沒有說Jalapeno在絕對運算力(FLOPS)上贏過輝達,也沒有說訓練模型能用這顆晶片。
老黃仍是好朋友:OpenAI與輝達的微妙關係
Richard Ho在訪談最後刻意補充了一段話,聽起來像是公關稿,但透露的訊息很真實:「輝達是一個非常好的合作夥伴,公司仍非常需要輝達的產品。」
這句話翻譯成白話文就是:Jalapeno再好,目前也只能在推論階段幫OpenAI省點電費和延遲。真要訓練下一代GPT-5,還是得乖乖跟老黃買貨。更別說輝達的Vera Rubin晶片已經開始出貨,那才是真正決定下一回合勝負的產品。
換個角度想,OpenAI這次高調放話,某種程度上也是在對華爾街和投資人釋放訊號:「我們不是只會燒錢買輝達晶片,我們也有自己的硬體實力。」畢竟,OpenAI的估值已經高到不合理,他們需要更多故事來支撐那個數字。
數據背後的啟示
從這次Jalapeno的測試結果來看,我們可以得出幾個嚴謹的結論:
- AI推論晶片市場正進入戰國時代。OpenAI不是第一家、也不會是最後一家跳下來做自研晶片的AI公司。Google有TPU、亞馬遜有Trainium和Inferentia、微軟有Maia,現在OpenAI也參戰了。這意味著未來兩年,推論成本有機會顯著下降。
- 能耗效率將取代絕對算力,成為下一階段的競爭主戰場。當模型越來越大、用電越來越兇,誰能讓每一度電產生更多有效運算,誰就能在商業模式上取得優勢。Jalapeno在這個維度上的勝出,不是偶然。
- OpenAI短期內無法脫離輝達生態系。訓練和推論是兩回事,Jalapeno目前只解決了其中一塊。輝達在訓練市場的護城河,比多數人想像的更深、更寬。
- 成本下降的受惠者,最終會是用戶。如果OpenAI真的能透過自研晶片降低營運成本,長期來看,API定價就有調降空間,更多開發者和企業就能負擔得起頂級AI模型的服務。
說到底,Jalapeno的出現不是要終結輝達的霸主地位,而是為AI產業的基礎設施帶來更多選擇。對OpenAI來說,這顆晶片最大的價值或許不是「贏過輝達」,而是「讓輝達知道——我也有備案」。
至於Jalapeno能不能真的量產、成本能不能如期下降、第二版會不會比第一版更驚豔?這些問題,大概再過半年就會有答案。但在那之前,別忘了——輝達的Vera Rubin也才剛開始出貨。這場晶片大戰,連第一回合都還沒打完。
本文改寫整理自公開新聞來源,原始報導由自由時報發布。
常見問題 FAQ
Jalapeno晶片什麼時候可以實際使用?
OpenAI計畫在2026年稍晚開始使用新晶片來支援其AI模型,第二版晶片預計在未來幾個月完成tape out(下線),量產時程尚未對外公佈。
Jalapeno晶片跟輝達的產品相比,主要贏在哪裡?
根據公開測試數據,Jalapeno在每單位耗能下的AI處理吞吐量以及回應速度(延遲)兩個領域勝過輝達的GB300,但在絕對運算力上並未宣稱超越。
OpenAI會用自研晶片完全取代輝達的產品嗎?
不會。OpenAI晶片負責人Richard Ho明確表示,公司仍視輝達為重要晶片供應商,短期內也不會取代其他供應商,因為其運算需求實在太大。
※ 此篇文章由 AI 改寫或生成,內容僅供參考,可能存在錯誤或不準確之處。