在資訊科技領域,Arm長期以來以其IP矽智財授權模式聞名全球,但這項逾三十年的傳統,已於近日(3月24日)正式劃下句點。Arm歷史性地發布了首款由官方親自操刀設計並投入量產的實體晶片——「Arm AGI CPU」。這款專為AI資料中心量身打造的處理器,不僅將劍指近期快速崛起的「代理式AI」(Agentic AI)基礎設施需求,更攜手科技巨頭Meta作為首發共同開發夥伴,預期將為AI運算領域投下一枚震撼彈。
現象觀察:Arm AGI CPU的破格問世
說真的,當我們談到Arm,腦海中浮現的通常是智慧型手機裡高效能、低功耗的處理器核心,而非實體晶片。然而,Arm如今卻選擇親自下場,推出自家品牌的「Arm AGI CPU」,這無疑是其商業策略上的一大轉折。這款晶片不僅由台積電採用先進的3nm製程代工,Arm更宣稱其在機架運算效能上,能比傳統的x86平台高出兩倍以上。這不禁讓人好奇,究竟是什麼樣的驅動力,讓Arm這位幕後功臣,決定走向台前,直接面對市場的挑戰?
原因剖析:代理式AI引爆運算架構變革
要理解Arm這一步的深層意義,我們必須先看懂「代理式AI」所帶來的基礎設施變革。Arm執行長Rene Haas曾明確指出:
「AI已經徹底重新定義運算的建構與佈署方式。」
過去,AI基礎設施的重心高度集中在GPU的「模型訓練」上,這如同搭建一座龐大的知識庫。然而,隨著AI應用逐漸轉向佈署持續運行的「AI代理」(AI Agents),情況截然不同。這些AI代理需要不斷地進行推論、規劃、協調與資料搬移,導致AI系統生成的Token數量呈現指數級增長。這就像是讓機器人不僅學習知識,還要能自主地思考、執行任務,對運算能力的要求截發改變。
根據業界預估,當企業大規模導入代理驅動的應用時,每吉瓦(GW)電力所需的CPU數量將暴增超過四倍。但在嚴苛的功耗限制下,傳統x86處理器複雜的架構與相對較高的能耗,已經難以有效負荷。因此,為協助合作夥伴加速佈署AI代理,Arm決定打破過往僅提供IP或運算子系統(CSS)的慣例,直接推出自有品牌實體晶片,為市場提供更具彈性且直接的硬體選擇,進一步跨入更廣泛的運算市場。
影響評估:重塑資料中心生態與成本效益
作為Arm的首發之作,AGI CPU在硬體規格與能效表現上展現了極強的企圖心。它單顆CPU便搭載了高達136個Arm Neoverse V3核心,並提供每核心6GB/s的記憶體頻寬與低於100奈秒(ns)的延遲表現。有趣的是,其功耗控制在300瓦(TDP),同時每個程式執行緒均配置專屬核心,確保在高負載下仍能提供決定性的效能,有效消除降頻與閒置執行的浪費。
這款晶片在伺服器機架密度上也表現出色:
- 在氣冷佈署模式下,支援高密度1U伺服器機架,每組機架可容納高達8160個CPU核心。
- 若採用液冷系統設計,則能將每機架對應的核心數推升至超過45000個。
Arm強調,AGI CPU的每機架效能是傳統x86架構CPU的兩倍以上,這意味著在每吉瓦的AI資料中心建置中,將能為企業省下高達100億美元的資本支出。這不僅是技術上的突破,更是成本效益上的巨大誘惑。
而Arm這次親自跳下來做晶片,並未引發原有IP客戶的強烈反彈,反而獲得業界廣泛支持。Meta成為該晶片的首發合作夥伴與共同開發者,Meta基礎設施主管Santosh Janardhan表示:
「Meta將利用Arm AGI CPU來優化其應用程式家族的基礎設施,並且將其與Meta自研的AI加速晶片『MTIA』協同運作,藉此實現在大規模AI系統中更有效率的運算調度。」
除了Meta,包含OpenAI、Cerebras、Cloudflare、SAP與SK Telecom在內的多家企業也確認將導入此晶片,用於加速器管理、控制平面處理,以及雲端API託管等核心任務。硬體系統端,Arm已與華擎(ASRock Rack)、聯想(Lenovo)、廣達(Quanta Computer)及Supermicro等OEM及ODM廠展開合作,預計今年下半年將有更多系統投入市場。此外,AWS、Google、微軟、NVIDIA(執行長黃仁勳亦對此表達祝賀),以及三星、SK海力士等超過50家科技巨頭,也都對Arm擴展至晶片產品線表達大力支持。
趨勢預測:Arm架構在AI時代的戰略佈局
外界最初對於Arm自行賣晶片是否會與AWS、Google或微軟這些已利用Arm架構自行開發CPU的大客戶產生利益衝突有所擔憂。不過從結果來看,Arm將AGI CPU的定位精準切入「代理式AI」這個新興且需才孔急的特殊領域。對於像Meta或OpenAI這樣需要海量CPU來搭配自家AI加速器,卻又不見得想投入龐大資源去「從零設計通用CPU」的廠商來說,直接購買現成、已經將Neoverse V3效能榨到極限的Arm AGI CPU,無疑是最具成本效益的選擇。
這同時也是Arm針對x86陣營(Intel與AMD)在資料中心領域發起的一場「絕殺」。當僅有300瓦熱設計功耗的Arm晶片能透過台積電3nm製程,在相同機架與電力限制下塞入136個核心,並且提供兩倍於x86架構CPU的效能時,x86架構在AI時代「功耗比過高」的致命傷將被進一步放大。這象徵著資料中心的運算主力,正無可避免地向Arm架構全面傾斜,預示著一個由Arm主導的AI運算新時代或許正加速到來。