2026年7月24日--隨著對AI工廠與前沿AI的需求日益增長,客戶需要能夠從單一機櫃高效擴展至Gigawatt等級大型AI叢集的基礎設施,同時實現效能、每瓦效能與每Token成本效益的最大化。AMD Helios提供整合式的機櫃級建構模組,不僅簡化部署,更提供下一代AI基礎設施所需的算力、網路技術與開放軟體基礎。
AMD Helios機櫃級AI解決方案在低、中、高互動性水平下皆能提供最高的Token吞吐量效能註2,且自設計之初即採用開放式架構。與主要競爭解決方案相比,AMD Helios提供眾多優勢,其中包括:
• 15%的峰值FP4效能提升註3
• 50%的高頻寬記憶體(HBM)容量提升註1
• 6%的HBM頻寬提升註1
• 50%的向外擴展(Scale-out)頻寬提升註4
• 高達30%的每美元Token產出提升註5,讓客戶在部署每個機櫃時獲得更多輸出量
AMD AI事業群資深副總裁Vamsi Boppana表示:「前沿AI基礎設施正在快速演進,客戶需要能夠提供卓越效能、同時隨著工作負載增長而高效擴展的平台。AMD Helios將頂尖運算能力、高效能網路技術與開放軟體整合於統一的機櫃級平台中。這些技術相輔相成,賦予客戶靈活性,以加速大規模推論、前沿模型訓練以及下一代AI基礎設施的發展。」
AMD Helios機櫃級解決方案
AMD Helios擴展AMD AI產品組合,提供開放式機櫃級架構,旨在支援從單一機櫃到多機櫃叢集的大規模推論、前沿模型訓練與微調(fine-tuning)。在AI正在重塑現代運算基礎設施之際,AMD推出AMD Helios,提供結合高效能運算、機櫃級架構與開放軟體的高度整合平台。詳細資料請參閱Advancing AI 2026大會的媒體資料。
• 專為前沿AI打造:AMD Helios是專為前沿AI與AI工廠部署所設計的AMD機櫃級AI基礎設施平台,透過將第5代AMD Instinct GPU、第6代AMD EPYC伺服器CPU、AMD Pensando網路技術與AMD ROCm軟體整合至基於開放標準的統一平台中,為高吞吐量推論、前沿模型訓練與微調提供可擴展的基礎。
• 領先業界的機櫃效能:AMD Helios在針對大規模推論與前沿模型開發最佳化的統一架構中,提供Exaflop等級的AI效能。單一機櫃可提供高達2.9 Exaflops峰值FP4效能、1.4 Exaflops峰值FP8效能、31 TB的HBM4記憶體,以及每秒1.7 PB的記憶體頻寬。
• 可擴展的AI功能:AMD Helios旨在實現從單一機櫃擴展至Gigawatt等級AI叢集。每個機櫃整合18個符合開放機櫃寬規範(Open Rack Wide-aligned)的4-GPU運算托盤(共計72個GPU),為叢集部署與擴展提供一致的建構模組。在叢集規模下,AMD Pensando™ Vulcano 800 AI網路介面卡(NIC)可提供支援分散式推論、前沿模型訓練與快速超大規模(hyperscale)增長所需的高頻寬與低延遲連接性。
• 開放式基礎設施:AMD Helios結合用於高效能向上擴展(Scale-up)的UALink™ over Ethernet (UALoE)技術,以及符合超乙太網路聯盟(Ultra Ethernet Consortium)標準的向外擴展(Scale-out)乙太網路,讓客戶能夠利用開放、基於標準的技術建構AI基礎設施。該平台亦納入縱深防禦(defense-in-depth)的機櫃級安全功能。AMD ROCm™軟體則可在跨機櫃與叢集規模的部署中,實現高吞吐量推論與統一的分散式訓練。
AMD推出開放式AI基礎設施平台AMD Helios機櫃級解決方案,整合AMD Instinct MI455X GPU、第6代AMD EPYC伺服器CPU、AMD Pensando網路技術與AMD ROCm軟體,以支援前沿AI、大規模推論與基礎模型訓練。該平台提供Exaflop等級的效能,可從單一機櫃擴展至Gigawatt等級AI叢集,並在AI運算、記憶體容量、記憶體頻寬以及每美元產出Token產出方面超越主要競爭解決方案。