根據AMD在Advancing AI 2026大會上的最新報告指出,AMD正式推出了Helios機櫃級AI解決方案,旨在為企業客户提供高效能、高經濟效益的AI運算基礎設施。該方案整合了第6代EPYC CPU、Instinct MI455X GPU、Pensando網路技術及ROCm軟體堆疊,提供了領先業界的記憶體容量和高度擴展性。
數據發現:AI算力需求持續成長
AMD執行長蘇姿丰在演講中提到,AI模型訓練所需的算力在過去兩年中成長了158倍,而從2020年開始,每年的算力需求更是成長了5倍。此外,近兩年的訓練與推論消耗的算力比例也從6:4轉變為4:6,更加偏重推論。
根據AMD效能實驗室(AMD Performance Labs)的數據,Helios系統中的Instinct MI455X GPU在FP4資料類型下的峰值效能領先NVIDIA Vera Rubin GPU 15%。Helios系統的HBM高頻寬記憶體容量多出50%,頻寬也提升6%。在向外擴展方面,Helios機櫃的網路頻寬較NVIDIA Vera Rubin NVL72機櫃已公布的規格提升了50%。
解讀意義:彈性解決方案滿足全方位需求
Helios機櫃級AI解決方案通過整合第6代EPYC CPU、Instinct MI455X GPU、Pensando網路技術和ROCm軟體堆疊,每個機櫃具有18組符合開放機櫃寬規範的GPU運算托盤,單一機櫃能夠容納72組GPU,整合容量高達31 TB的HBM4高頻寬記憶體,記憶體頻寬可達1.7 PB/s,提供高達2.9 EFLOPS的峰值FP4效能或1.4 Exaflops峰值FP8效能。
Helios採用了UALink over Ethernet(UALoE)技術連接機櫃內的運算單元,以進行向上擴展(Scale-up),並採用Ultra Ethernet Consortium規範乙太網路進行連接多組機櫃的向外擴展(Scale-out)。平台還支援縱深防禦(defense-in-depth)的機櫃級安全功能,確保資料安全。
產業影響:高效能與經濟效益的雙贏
AMD Helios機櫃級AI解決方案在Kimi K2 Thinking運算負載(輸入32K/輸出8K)中,每美元Token產出效能較NVIDIA Vera Rubin NVL72機櫃高出30%。這意味著客戶部署等值機櫃時能夠生成更多Token,進而創造更大的效益。
AMD AI事業群資深副總裁Vamsi Boppana表示,隨著前沿AI基礎設施的快速演進,Helios機櫃級平台整合了頂尖運算能力、高效能網路技術和開放軟體,賦予客戶靈活性,以加速大規模推論、前沿模型訓練以及下一代AI基礎設施的發展。
從產業面來看,AMD Helios機櫃級AI解決方案的推出,不僅在技術層面上突破了現有市場的限制,更在經濟效益上為企業客戶提供了更具吸引力的選擇。隨著AI算力需求的不斷增長,Helios平台的高擴展性和高效能將成為企業競逐市場的重要利器。
數據背後的啟示
基於AMD提供的數據,Helios機櫃級AI解決方案在效能和經濟效益上均超越了競爭對手NVIDIA。隨著AI技術的不斷發展,企業對於高效能、低成本的AI運算解決方案的需求日益增加。Helios平台的推出,不僅滿足了這一需求,更為未來的AI應用開拓了新的可能性。
如果您正在考慮升級您的AI運算基礎設施,不妨深入了解一下AMD Helios機櫃級AI解決方案,它可能會成為您業務發展的關鍵助力。
本文改寫整理自公開新聞來源,原始報導由T客邦發布。
常見問題 FAQ
Helios機櫃級AI解決方案的主要特點有哪些?
Helios機櫃級AI解決方案的主要特點包括整合第6代EPYC CPU、Instinct MI455X GPU、Pensando網路技術及ROCm軟體堆疊,提供高達2.9 EFLOPS的峰值FP4效能和31 TB的HBM4高頻寬記憶體容量。
Helios與NVIDIA Vera Rubin NVL72相比有何優勢?
Helios在FP4資料類型下的峰值效能領先NVIDIA Vera Rubin GPU 15%,HBM高頻寬記憶體容量多出50%,頻寬提升6%,向外擴展的網路頻寬領先50%。
Helios機櫃級AI解決方案適用於哪些場景?
Helios機櫃級AI解決方案適用於AI模型訓練、雲端AI推論服務、邊緣AI推論運算,甚至是自動駕駛車輛、機器人等終端與實體AI應用。
※ 此篇文章由 AI 改寫或生成,內容僅供參考,可能存在錯誤或不準確之處。