根據Arm於舊金山「Arm Everywhere event」最新發布,晶片設計巨擘Arm首次跨足實體晶片市場,與Meta共同推出專為新一代AI資料中心設計的Arm AGI CPU。這款劃時代處理器基於Neoverse V3架構,旨在滿足代理式AI對大規模運算的需求,並已獲得Meta、OpenAI、SAP、SK Telecom等業界領導廠商的採用,預示著AI基礎設施的重大轉變。
Arm跨足實體晶片市場的策略轉型
在長達35年的發展歷程中,Arm一直以提供晶片相關IP與運算子系統聞名,從未直接涉足實體晶片業務。然而,這項傳統隨著Arm AGI CPU的推出被正式打破。數據顯示,Arm此舉是為回應新一代AI基礎設施對於高效能、高擴展性運算的需求。
Arm表示,透過Arm AGI CPU的推出,使Arm客戶可提供自客製化晶片到整合平台方案,再到部署Arm設計的處理器等豐富的選擇,生態夥伴可依據需求選擇合宜的解決方案。
這項策略轉型不僅擴展了Arm的業務範疇,更深層的意義在於,它為整個AI晶片生態系提供了更完整的解決方案。過往客戶需自行整合Arm IP,如今則能直接選擇Arm設計的實體處理器,大大簡化了開發與部署流程,對於加速AI應用的普及化具有關鍵影響。
Arm AGI CPU的技術規格與效能優勢
Arm AGI CPU是Arm與Meta共同開發的成果,專為新一代資料中心需求量身打造。數據指出,這款處理器基於3奈米製程,採用136個Arm Neoverse V3核心,每個核心具備2MB的L2快取,並能達到高達3.7GHz的時脈速度,TDP(熱設計功耗)為300W。其設計重點在於能夠並行處理數千個核心,並在持續高負載下提供出色的單執行緒任務表現。
在I/O與記憶體支援方面,Arm AGI CPU展現了對未來AI工作負載的預見性:
- PCIe Gen 6:提供96條通道,實現超高速資料傳輸。
- CXL 3.0:支援記憶體擴展,提升系統彈性與容量。
- AMBA CHI擴展:適用於未來晶片與加速器架構的互連。
- 記憶體頻寬與容量:單晶片提供6GB記憶體頻寬,容量最高達6TB,並支援DDR5-8800記憶體。
這些先進的技術規格,旨在使Arm AGI CPU能夠與Meta自研的Meta Training and Inference Accelerator (MTIA) 晶片協同作業,在大規模AI系統中獲得更高效率的排程,從而顯著提升AI訓練與推論的整體效能。
生態系夥伴的廣泛支持與導入
儘管Arm AGI CPU是Arm的首款實體晶片產品,但其背後的生態系支持卻異常強大。除了共同開發夥伴Meta也是主要客戶外,超過50家超大規模、雲端運算、晶片、記憶體、網路、軟體、系統設計與製造等跨領域生態夥伴已與Arm簽署合約。這份名單涵蓋了業界眾多重量級企業,例如:
- 雲端與AI服務:OpenAI、SAP、SK Telecom
- 晶片與網路:Cerebras、Cloudflare、F5、Positron、Rebellions
- 系統整合商:永擎、聯想、廣達、Supermicro
系統整合商如永擎、聯想、廣達與Supermicro也已開始接受搭載Arm AGI CPU的系統訂單,這意味著市場對這款新處理器的信心與期待。這種廣泛的產業鏈合作,對於加速Arm伺服器在AI資料中心的普及,形塑新一代AI運算標準具有深遠的意義。
標準化設計與效能成本效益分析
為了加速Arm伺服器CPU的普及,Arm不僅規劃了符合開放運算專案(OCP)與Arm System Ready規範的1OU雙節點參考設計,更將貢獻伺服器設計、配套韌體以及系統架構規範、框架與診斷驗證工具。數據顯示,這項標準化努力旨在降低導入門檻,提升互通性。
根據Arm所展示的10OU雙節點設計,每個刀鋒伺服器包含2個Arm AGI CPU,每個晶片都有專用的記憶體與I/O控制。單一刀鋒伺服器可具備272個核心與高達12條64GB DDR5記憶體。透過標準36kW風冷機架可裝載30個刀鋒伺服器,總計可提供8,160個CPU核心。此外,Arm還與Supermicro共同開發200kW液冷設計,可容納336個Arm AGI CPU,提供高達45,000個CPU核心。
Arm強調,在其參考設計下,Arm AGI CPU的每個機架性能對比x86高出2倍,每GW AI資料中心可減少100億美金的資本支出。
這項數據突顯了Arm AGI CPU在性能與成本效益上的顯著優勢。相較於x86伺服器可能受限於核心互搶記憶體而影響持續效能,Arm AGI CPU更高的記憶體頻寬有助於使每個機架執行更多有效執行緒,同時作為基礎的Arm Neoverse V3亦具有相對傳統x86更出色的單執行緒能耗效能表現,為AI資料中心提供了極具競爭力的綠色運算選擇。
數據背後的啟示
Arm AGI CPU的問世,不僅標誌著Arm公司在商業模式上的重大突破,更預示著AI資料中心運算架構可能迎來一次重大的典範轉移。透過與Meta等業界領導者的深度合作,Arm正將其在IP領域的深厚積累,轉化為實體晶片市場的強大競爭力。這款為代理式AI量身打造的處理器,以其卓越的性能、能源效率與廣泛的生態系支持,為追求極致算力與成本效益的AI基礎設施提供了嶄新的選擇。未來的AI資料中心,將可能見證Arm架構的加速普及,進一步推動AI技術的發展與應用。