Time to compare AMD Helios vs. Nvidia Vera Rubin NVL72 rack

雖然AMD的新產品MI455/Helios 陸續拿下 Open AI, Meta, Oracle, Microsoft 訂單， 但我們看到Helios 除了在開源軟體，開放互聯架構，及整櫃CPU核心數及HBM4容量有45-50%的優勢，但在系統定價，總耗能，機櫃尺寸仍處於劣勢，在互聯技術也沒有明顯優勢。我們因此認為AMD 打算從Nvidia 搶下更多機櫃份額，可能需要等到推出下一代能跟 Rosa Feynman 真正競爭的產品。

繼AMD用近零成本認股權證跟OpenAI及Meta各簽下6GW AI GPU/CPU 算力訂單，今天微軟宣布將採購 Helios 機櫃AI 平台 GPU/CPU，整合到微軟的 Azure AI ，來提供三種雲服務，數據處理服務 Azure HDv2 VMs, 半導體晶片 EDA 電子設計自動化服務 Azure HXv2 VMs, 及AI 推理服務 ND MI455 v7 VMs。

• NVIDIA：包含 9 顆昂貴的 NVLink 6 Switch 晶片、專利銅纜背板及 Vera CPU 溢價，整櫃系統開價 350-400 萬美元，且利潤率（Gross Margin）極高。

• AMD 的價格劣勢：採用6套標準化以太網 Switch、OCP 開放架構與以太網網卡（Pensando Vulcano），18顆 Venice CPU 整體硬體 BOM 成本應該比Nvidia’s Vera Rubin 機櫃有價格競爭力，但因為在 Helios 機櫃中堆疊了比Nvidia Vera Rubin 機櫃多50%的 31TB HBM4存儲記憶體，我們預估Helios 整櫃售價500-550萬美元比 NVIDIA Vera Rubin 機櫃貴了近35-45%，除非Helios 在算力方面能大幅降低數據中心的 Token 產出成本（Cost per Token），否則這價格毫無競爭力。