AMD Instinct MI455X e Helios: la piattaforma rack-scale che punta a far girare l’AI di frontiera

Ad Advancing AI 2026, AMD ha spostato l’attenzione dal singolo acceleratore all’intero rack. Nell’era dei modelli agentici e di ragionamento l’infrastruttura deve muovere i dati alla stessa velocità con cui i modelli scalano, e per farlo serve che il rack si comporti come un unico sistema accelerato. Da qui i due pilastri dei futuri data center: la GPU AMD Instinct MI455X, basata sull’architettura CDNA 5, e il sistema rack-scale AMD Helios che ne aggrega 72 in un’unica unità. 

Dai chatbot ai carichi agentici

La cornice dell’annuncio è la progressione dimensionale dei modelli: dal Transformer del 2017 (nell’ordine dei 65 milioni di parametri) a GPT-4 nel 2023 (circa mille miliardi), fino ai modelli agentici e di ragionamento del 2026, indicati come sistemi da oltre 10.000 miliardi di parametri. In parallelo si sono affiancate quattro tipologie di carico: inferenza ad alto volume per servizi always-on su larga scala, training dei modelli di frontiera, fine tuning enterprise per l’adattamento a domini specifici e, appunto, AI agentica con più utenti, contesti più lunghi e inferenza continua.

Su questa base AMD presenta una soluzione integrata per il deployment rack-scale articolata su quattro componenti: le CPU EPYC per l’orchestrazione, le GPU Instinct per il calcolo, il networking Pensando ad alta velocità e lo stack software aperto ROCm. Gli obiettivi sono migliore utilizzo delle risorse, scalabilità, sicurezza dell’infrastruttura, manutenibilità ed ecosistema aperto.

Le novità di AMD Instinct MI455X

La nuova MI455X è costruita su processo a 2 nm, con memoria HBM4, supporto ai formati AI OCP MXFP4, MXFP6 e MXFP8 e circa 320 miliardi di transistor.

Sul fronte architetturale, la GPU porta avanti la strada del chiplet in modo ancora più marcato rispetto alla generazione precedente. Ogni GPU integra 8 Accelerator Complex Die (XCD) realizzati a 2 nm (N2), per un totale di 256 Work Group Processor attivi, affiancati da 2 Fabric and Cache Die (FCD) a N3P che ospitano un’interfaccia HBM4 a 192 canali e la cache L2 globale, e da 2 I/O Die (IOD) anch’essi a N3P, che mettono a disposizione 2 PCIe Gen 6 oppure 3 AI-NIC AMD via UALink, 256 GB/s bidirezionali di Infinity Fabric e 72 linee UALoE per 3,6 TB/s bidirezionali. Il comparto memoria è composto da 12 stack HBM4 per 432 GB complessivi a una banda di 23,3 TB/s. L’assemblaggio poggia sul packaging avanzato CoWoS-L e su XCD impilati con hybrid bonding 3D, soluzione che secondo AMD alza densità di calcolo e prestazioni-per-watt.

Nel confronto generazionale con la Instinct MI355X, AMD dichiara per la MI455X una capacità di memoria fino a 1,5 volte superiore (432 GB HBM4), una banda di picco fino a 2,9 volte (23,3 TB/s), e sul calcolo di picco un incremento fino a 4x su MXFP4 (40,26 PF), fino a 4x su MXFP8/FP8 (20,13 PF) e fino a 2x su MXFP6 (20,13 PF). Restando sui numeri dichiarati dall’azienda, la parte Matrix FP16/BF16 arriva a 5,03 PF, mentre Vector FP16 e Matrix/Vector FP32 sono indicate entrambe a 315 TF, tutte con incremento fino a 2x rispetto alla generazione precedente. AMD rivendica per la MI455X fino a 34 volte i token al secondo e un costo per token fino a 18 volte inferiore rispetto alla MI355X, in DeepSeek V4 Flash in FP4.

Le tre leve di CDNA 5

Le novità di CDNA 5 si possono riassumere in tre aree. Sul calcolo, la MI455X adotta l’esecuzione nativa Wave32 su macchina vettoriale a 32 vie in singolo ciclo, un Transcendental Engine con nuova istruzione tanh per accelerare softmax e pipeline di attention, i formati MX con block-scale 16/32 e scaling frazionale su MXFP4 (che rendono praticabile l’addestramento in FP4 riducendo l’errore di quantizzazione rispetto allo scaling a tile intera), e i 256 WGP. Sull’efficienza, AMD introduce il Tensor Data Mover per trasferimenti diretti Global↔LDS senza staging sui registri, il Topology Aware DMA, il multicast su L2, i cluster di WGP con prefetch, le split/named barriers per una sincronizzazione più efficiente e una minore latenza di dispatch grazie a un nuovo command processor.

Il capitolo memoria è quello dove il cambiamento strutturale è più visibile. La MI455X riorganizza la gerarchia rispetto alla MI355X: ogni die dispone di 96 MB di L2 (per 192 MB complessivi sui due die) al posto della combinazione tra 4 MB di L2 e 256 MB di Infinity Cache della generazione precedente, con AMD che dichiara una larghezza di banda 1,5 volte superiore per L2 rispetto all’Infinity Cache. Salendo di livello, la struttura passa a 256 WGP con 4 SIMD ciascuno, 128 KB di registri vettoriali e 8 KB di registri scalari per SIMD, 384 KB di Vector Data/LDS per WGP, più cache costanti e istruzioni dedicate. I guadagni dichiarati sono 2x di VGPR per SIMD, 2x di LDS per WGP/CU, fino a 4x di amplificazione di banda grazie al broadcast arbitrator e circa 2,9x di HBM totale. L’obiettivo è far restare in locale modelli più grandi, finestre di contesto più lunghe e KV-cache.

Il movimento dati è affidato a motori DMA dedicati per GPU che spostano i dati in parallelo all’esecuzione dei kernel AI e affinano automaticamente il traffico sui link UALoE, così da rendere il software indifferente alla collocazione fisica del dato e da scalare fino alle 72 GPU del rack.

Sul versante flessibilità, la MI455X supporta il partizionamento fino a 8 partizioni spaziali (una per XCD) e diverse modalità NUMA (NPS1 con indirizzi interleaved su tutti i 12 stack HBM, NPS2 su 6 stack senza attraversamenti tra die).

Helios, quando il rack diventa un solo sistema

AMD Helios è l’infrastruttura rack-scale che AMD contrappone alla generazione precedente di rack “under-scale”. Nei rack tradizionali si lavora con server GPU discreti in pod da 8 GPU con memoria localizzata, e per superare le 8 GPU serve la rete di scale-out. Helios ribalta l’approccio: l‘intero rack diventa un server GPU unificato da 72 GPU, con memoria condivisa accessibile in load/store, una rete di scale-up ad alta banda e bassa latenza, e resilienza ai guasti con proseguimento dei job.

Il rack è in grado di arrivare a 2,9 Exaflops di calcolo AI (e 1,4 Exaflops in FP8), 31 TB di memoria HBM4, 1,7 PB/s di banda HBM4 aggregata, 260 TB/s di banda di scale-up e 43 TB/s di banda di scale-out, con 72 GPU per rack. La piattaforma è dichiarata costruita su standard aperti: Open Compute Project, Ultra Accelerator Link e Ultra Ethernet Consortium.

Nel confronto con la soluzione rack NVIDIA Vera Rubin NVL72, AMD rivendica un vantaggio del 15% sul calcolo AI, il 50% in più di capacità di memoria e fino al 50% in più di banda di scale-out, con parità sulla banda di scale-up. Sul piano dell’economia, l’azienda dichiara fino al 30% di token per dollaro in più e un vantaggio di throughput a doppia cifra sul modello Kimi K2 Thinking.

Sul piano fisico, Helios è un rack ORW da 44OU con 18 compute tray, 6 switch tray, 4 cartucce cavi per il fabric di scale-up, alimentazione tramite busbar a 50 VDC raffreddata a liquido e raffreddamento posteriore BlindMate QD a liquido.

Ogni compute tray combina calcolo, host, memoria e networking: 4 moduli AMD Instinct MI455X in formato EAM con 36 link UALoE (x2) per EAM, un host a singolo socket AMD EPYC 9006 SP7 collegato alle GPU via Infinity Fabric (x16), fino a 3 AMD Pensando Vulcano 800 AI NIC per EAM su UALink128 (x8) e, sul front-end, un AMD Pensando Salina 400 DPU. Le banda dichiarate sono 3,6 TB/s bidirezionali di UALoE per GPU, 256 GB/s di Infinity Fabric per coppia GPU-CPU e 256 GB/s di UALink128 per coppia GPU-AI NIC, con uscita 800GbE sul lato Ethernet.

Gli switch tray ospitano ciascuno 2 ASIC di switch UALoE da 512 linee a 200G, con 432 linee UALoE attive per ASIC e una banda dichiarata di 21,6 TB/s bidirezionali per switch. La topologia di scale-up mette in relazione i 18 compute tray con i 6 switch tray attraverso 12 switch UALoE, in una configurazione single-hop multi-plane con connettività all-to-all: ogni GPU dispone di 72 linee di scale-up e 3,6 TB/s bidirezionali, per i 260 TB/s aggregati di rack.

Il networking: Pensando, UALoE e Fabric Manager

La parte di rete è organizzata su tre livelli. Sul front-end c’è il Pensando Salina DPU di terza generazione, indicato a 400G, completamente programmabile e dichiarato 2 volte più veloce della generazione precedente (Elba); AMD lo definisce l’unica DPU già in uso presso più hyperscaler (tra cui Oracle e Microsoft) e ne evidenzia funzioni di storage acceleration per la KV-cache pensate per l’AI agentica. Lo scale-up è affidato alla prima generazione di UALoE, che porta i 260 TB/s di rack e forma un unico pod di scale-up da 72 GPU MI455X con accesso diretto GPU-to-GPU in memoria, connettività multi-plane e trasporto su Ethernet standard. Lo scale-out usa il Pensando Vulcano 800 AI NIC di seconda generazione, a 800G, con PCIe Gen 6 e supporto UAL, fino a 2,4 Tbps di banda per GPU.

Sui vantaggi di Vulcano, AMD dichiara 50% di banda di scale-out in più, 13% di riduzione del tempo di completamento dei job AI e, in un confronto su un cluster Helios da 32.000 GPU, un 33% di risparmio sui costi di switching di rete rispetto alla concorrenza. Il NIC integra inoltre i “trasporti intelligenti” MRC/UEC: packet spray intelligente, controllo di congestione path-aware e gestione dei pacchetti fuori ordine con consegna in ordine dei messaggi.

L’orchestrazione software del rack passa dall’AMD Fabric Manager (AFM) e dai suoi agenti, che gestiscono il fabric UALoE di scale-up, la RAS avanzata, la telemetria e un’API northbound per l’integrazione con gli orchestratori, affiancati da un NOS basato su SONiC con API gNMI standard. Il tutto si inserisce in uno stack end-to-end che AMD articola su più livelli tra hardware Helios, runtime ROCm + BKC, Fabric Manager, Rack Infrastructure Manager e Cluster Controller con integrazione Kubernetes e Slurm/MAAS.

Resilienza, Virtual Pod e confidential computing

Helios è presentato come “fault tolerant by design”. In caso di guasto a link, cavi o switch il traffico viene reindirizzato automaticamente; i guasti recuperano in modo graduale con una pausa temporanea e senza perdita di progresso dei job, e mantengono la banda disponibile residua. L’isolamento avviene tramite Virtual Pod (VPod), sottoinsiemi di nodi combinabili, isolati tra loro, entro cui i guasti a livello di nodo restano confinati: solo i workload colpiti ripartono da checkpoint, gli altri proseguono.

Accanto alla tolleranza ai guasti, AMD insiste sulla resilienza operativa, cioè su ciò che serve a far vivere il rack nel tempo. Il design a tray è pensato per manutenzione e riparazione mirate con componenti sostituibili in campo (tray, EAM, cartucce cavi), mentre sul monitoraggio, la piattaforma prevede il rilevamento dello stato di salute a livello di rack, tray, fabric e singolo dispositivo, con isolamento dei guasti guidato dalla telemetria e diagnostica RAS integrata. La gestione di alimentazione e raffreddamento passa da un’infrastruttura consapevole degli aspetti di signal e power integrity, integrata attraverso PMC/Redfish sulla power shelf, sensori termici e telemetria del circuito a liquido. Chiude il quadro la protezione dell’infrastruttura, con monitoraggio ambientale, rilevamento delle perdite di liquido, eventi correlati alla posizione nel rack e integrazione con i sistemi di facility.

Sul fronte sicurezza, AMD estende il proprio percorso di Confidential AI dalla CPU all’intero rack, con attestazione dell’identità hardware via DICE, secure boot e canali IO fidati via TDISP, cifratura dei link IO (UALoE, Infinity Fabric), protezione di DDR e HBM tramite SEV-SNP e GPU Confidential Compute, e isolamento guest-to-guest e guest-to-hypervisor via SR-IOV e pod virtuali a livello di GPU e rack. L’azienda segnala però esplicitamente un limite: sulla MI455X una limitazione hardware può comportare la perdita delle garanzie di integrità in presenza di un hypervisor malevolo, mentre le garanzie di confidenzialità di dati e modello restano supportate.

Ci sono già clienti importantissimi

AMD ha dichiarato la MI455X e Helios entrambi “in produzione”, con il rack lanciato ufficialmente all’evento. L’azienda non ha fornito una data di spedizione precisa, ma ha indicato numerose implementazioni presso data center in fase di avvio nella seconda metà del 2026, con la produzione in rampa nello stesso periodo. Le date, come di consueto, sono piani soggetti a modifica.

Sul palco, AMD ha anche indicato tra i clienti della piattaforma nomi di primo piano dell’ecosistema AI, tra cui OpenAI, Meta, Anthropic, Microsoft e Oracle, a sostegno del posizionamento di Helios come infrastruttura per training di frontiera e inferenza ad alto volume su scala rack. Tra gli accordi già noti, ricordiamo l’intesa pluriennale multi-gigawatt con OpenAI (6 GW) e la partnership con Oracle annunciate lo scorso autunno, l’accordo da 6 GW con Meta su GPU custom di febbraio, il deployment di Helios e MI400 su Azure di Microsoft comunicato all’inizio di questa settimana e, in ultimo, l’accordo multi-gigawatt con Anthropic su Helios/MI455X accompagnato da una collaborazione ingegneristica congiunta per ottimizzare Claude sulla piattaforma AMD, annunciato nelle scorse ore.