AI-infrastruktur på rackskalenivå
AMD Helios: komplett guide till nästa generations AI-rack
Specifikationer, arkitektur, pris, lanseringsdatum och jämförelse med NVIDIA Vera Rubin NVL72 – samlat i en tydlig guide.
AMD Helios i korthet
AMD Helios representerar AMD:s mest kraftfulla och integrerade AI-plattform på rackskalenivå. Systemet är utvecklat för extremt krävande arbetslaster som gigantiska språkmodeller, agentbaserad AI samt distribuerad träning och inferens i mycket stor skala.
I stället för att behandla processorer, grafikprocessorer och nätverk som separata delar är Helios en helhetslösning där beräkning, minne, sammankoppling, ström och kylning har meddesignats från grunden.
Hårdvarukomponenter och arkitektur
Ett Helios-rack samlar AMD:s mest avancerade datacenterkomponenter i en gemensam plattform.
Instinct MI455X GPU
Helios använder 72 MI455X-acceleratorer, sammankopplade i en gemensam scale-up-domän.
EPYC ”Venice” CPU
36 stycken EPYC 9006-processorer hanterar värdsystem, orkestrering, datadirigering och CPU-tunga steg.
Pensando och UALoE
Öppna nätverksstandarder ska minska latens och förhindra flaskhalsar mellan rackets beräkningsenheter.
Alla 72 GPU:er kan kommunicera genom en mycket snabb intern sammankoppling och fungera mer som en samlad beräkningsresurs än som separata kort.
Tekniska specifikationer på systemnivå
När komponenterna kombineras når Helios prestanda i exaflops-klassen.
| Specifikation / parameter | Värde per rack |
|---|---|
| Totalt antal GPU:er | 72 × AMD Instinct MI455X |
| Totalt antal CPU:er | 36 × AMD EPYC ”Venice” (Zen 6) |
| FP4-beräkningsprestanda | 2,9 ExaFLOPS (2 900 PFLOPS) |
| FP8-beräkningsprestanda | 1,4 ExaFLOPS (1 400 PFLOPS) |
| Totalt HBM4-minne | 31 terabyte (TB) |
| Aggregerad minnesbandbredd | Cirka 1,7 PB/s |
| Intern scale-up-bandbredd | 260 TB/s över UALoE |
| Extern scale-out-bandbredd | 43 TB/s via Pensando-baserat Ethernet |
| Formfaktor | Open Rack Wide (ORW), dubbelbrett rack |
| Strömförbrukning | Cirka 140 kW per rack |
Chassidesign, kylning och infrastruktur
Open Rack Wide-formatet ger utrymme för hög effekt, vätskekylning och snabb service.
Helios bygger på Metas Open Rack Wide-specifikation inom Open Compute Project. Racket är dubbelt så brett som ett traditionellt 19-tumsrack, vilket ger bättre utrymme för effektleverans, kylning och underhåll.
- Direkt vätskekylning Direct-to-Chip Liquid Cooling leder kylvätska direkt till de mest värmealstrande komponenterna.
- Snabbkopplingar Enskilda beräkningsmoduler kan bytas utan att hela kylsystemet behöver tömmas.
- Vertikal busbar Centraliserad strömförsörjning med stöd för 48 V DC eller 400 V DC minskar kablage bakom servrarna.
- Power Shelf Inkommande ström omvandlas centralt och distribueras effektivt genom racket.
- Modulära compute trays Beräkningsmoduler glider in på skenor och ansluts direkt till ström- och vätskeskenorna.
- Service för hyperskala Konstruktionen är gjord för datacenter där drifttid och snabb komponentservice är avgörande.
Lanseringsdatum och tillgänglighet
AMD:s plan följer en stegvis utrullning från referensdesign till volymleveranser.
Första officiella visningen
Helios-referensdesignen visas på OCP Global Summit i San Jose.
Kommersiell specifikation
Den slutliga kommersiella arkitekturen och systemspecifikationen lanseras.
Volymleveranser
System börjar levereras till hyperskalekunder och större serverpartner.
Helios säljs inte som en vanlig hyllprodukt. Plattformen levereras som en nyckelfärdig rackinstallation till datacenteroperatörer, molnleverantörer och stora AI-aktörer.
Prissättning och total ägandekostnad
Det slutliga priset påverkas av konfiguration, nätverkstopologi, serviceavtal och inköpsvolym.
Marknadsbedömningar placerar Helios under ett jämförbart NVIDIA Vera Rubin NVL72-system.
Mycket stora modeller kan få plats inom en enda rackdomän, vilket minskar behovet av trafik mellan flera fysiska rack.
Helios är optimerat för hög genomströmning, effektiv minnesanvändning och lägre total kostnad vid storskalig inferens.
Total Cost of Ownership (TCO)
För en datacenteroperatör är inköpspriset bara en del av kostnaden. Energi, kylning, nätverk, golvyta, underhåll och mängden genererade tokens per krona påverkar den verkliga ekonomin.
Vid inferens av stora öppna modeller uppges MI455X i Helios kunna ge upp till 18 gånger lägre tokenkostnad och upp till 34 gånger högre genomströmning jämfört med föregående generation MI355X. Minneskapaciteten kan dessutom minska behovet av tensorparallellism över flera rack.
AMD Helios vs. NVIDIA Vera Rubin NVL72
Två rackskaleplattformar med olika styrkor: maximal peak-prestanda eller mer minne och ett öppnare ekosystem.
| Egenskap | AMD Helios | NVIDIA Vera Rubin NVL72 | Fördel |
|---|---|---|---|
| GPU-antal | 72 × MI455X | 72 × Rubin GPU | Oavgjort |
| HBM-minneskapacitet | 31,1 TB HBM4 | 20,7 TB | AMD +50 % |
| FP4-beräkningskraft | 2,9 EFLOPS | 3,6 EFLOPS | NVIDIA +24 % |
| FP8-beräkningskraft | 230 PFLOPS | 180 PFLOPS | AMD +27 % |
| Scale-out-bandbredd | 43 TB/s | Cirka 28 TB/s | AMD +50 % |
| Intern interconnect | 260 TB/s, UALoE | Cirka 259 TB/s, NVLink 6 | Jämnt |
| Standarder | OCP, UALink och UEC | NVLink och InfiniBand | AMD – öppnare |
| Uppskattat pris | 2,4–3,2 MUSD | 3,0–4,0 MUSD | AMD – cirka 20 % lägre |
Kort analys: NVIDIA har ett övertag i teoretisk FP4-prestanda för ren träning. AMD Helios svarar med betydligt mer HBM4-minne, högre scale-out-bandbredd och ett lägre uppskattat pris. Det gör Helios särskilt intressant för minnesintensiv inferens och storskaliga agentbaserade AI-system.
Mjukvarustack och öppna standarder
AMD:s strategi bygger på att datacenter ska kunna kombinera öppen mjukvara, Ethernet och standardiserade rackkomponenter.
ROCm 7.0
Helios stöds av AMD:s öppna mjukvaruplattform för GPU-beräkning och AI.
AI-ramverk
Nativ kompatibilitet med bland annat PyTorch, TensorFlow, JAX och vLLM.
UALink och UEC
Öppna standarder minskar beroendet av en ensam leverantör och förenklar Ethernet-integration.
Genom att undvika helt proprietära protokoll kan företag integrera Helios i befintlig Ethernet-baserad datacenterinfrastruktur och samtidigt behålla större valfrihet kring nätverk, servrar och mjukvarustack.
Ett öppet alternativ för AI i hyperskala
AMD Helios markerar ett viktigt skifte på datacentermarknaden. Kombinationen av 72 MI455X-GPU:er, 31 TB HBM4, mycket hög nätverksbandbredd och öppna standarder gör plattformen till en direkt utmanare inom storskalig AI-träning och inferens.