超微(AMD)與 Cerebras Systems 在 7 月 28 日再度成為市場焦點。OpenAI 研究員 Jeffrey Wang 公開表示,內部在 Cerebras 晶片上執行的模型「推論速度非常驚人」,甚至快到他還來不及切換工作情境,任務就已完成,明顯提升日常生產力。
這番評價,進一步強化了 AMD 與 Cerebras 日前宣布的合作方向。雙方將把 AMD Helios 機櫃級基礎架構與 Cerebras 晶圓級引擎整合為單一解構式推論流程,分工處理 AI 推論的不同階段:Helios 負責提示詞處理與大型上下文視窗等高吞吐工作,Cerebras 則專注於解碼與 Token 生成,提供超低延遲反應。
根據雙方說法,這套組合架構在相近互動基準下,預計可帶來最高5倍的每瓦每秒 Token 數表現。AMD 方面也強調,Helios 將做為高效能、可擴充的吞吐引擎,而 Cerebras 技術則補足即時生成能力,目標是在不犧牲規模與效率的前提下,提升推論經濟性。
從產業面來看,AMD 與 Cerebras 的合作不僅提升了 AI 推論的效率,更為資料中心的運營成本帶來重大突破。隨著推論成本成為資料中心獲利的關鍵,這樣的技術整合無疑將成為未來市場的主流。
這項合作也被視為 AMD 強化 AI 基礎設施布局的重要一步。隨著推論成本愈來愈成為資料中心獲利關鍵,OpenAI 對 Cerebras 系統的正面回饋,讓外界更關注 Helios 與晶圓級引擎結合後的實際商業潛力。
對於業界來說,這不僅是一次技術上的突破,更是市場格局的一次重大調整。AMD 和 Cerebras 的合作模式,可能會成為其他科技巨頭效仿的典範。
本文改寫整理自公開新聞來源,原始報導由科技新報發布。
常見問題 FAQ
AMD 和 Cerebras 的合作主要解決什麼問題?
這項合作主要解決 AI 推論的效率和成本問題,通過整合 AMD Helios 和 Cerebras 晶圓級引擎,實現高吞吐和低延遲的推論效果。
這項合作有哪些具體技術優勢?
具體技術優勢包括:Helios 負責高吞吐工作,Cerebras 負責低延遲生成,整體性能提升最高 5 倍。
這項合作對市場有哪些影響?
這項合作可能改變 AI 推論的市場格局,提高資料中心的運營效率和獲利能力,成為其他科技公司效仿的典範。
※ 此篇文章由 AI 改寫或生成,內容僅供參考,可能存在錯誤或不準確之處。