AMD ROCm.ai, arriva l’AI che ottimizza lo stack AI

Nella giornata di annunci hardware di Advancing AI 2026, tra CPU EPYC “Venice”, GPU Instinct MI455X e rack Helios, client e Physical AI, non poteva mancare il software: gli ostacoli relativi a questo tema, che per anni hanno frenato l’adozione delle GPU AMD, si stanno assottigliando rapidamente, e il motore di questo cambiamento è ora l’AI stessa. L’annuncio principale è senza dubbio ROCm.ai, disponibile a partire da agosto e definito da AMD come un’esperienza di sviluppo “AI-native” per costruire, distribuire e ottimizzare carichi AI su tutte le piattaforme dell’azienda. 

Il terzo pilastro: dall’open source all’AI assist

Da un paio d’anni AMD racconta la propria strategia software attorno a due pilastri: l’open source, con l’intero stack ROCm distribuito in forma aperta e la collaborazione diretta con i progetti della comunità, e l’astrazione, cioè la possibilità di programmare a più livelli (dai framework fino al codice a basso livello) senza dover scendere all’assembly per ottenere prestazioni. A questi AMD aggiunge ora un terzo pilastro, l’AI assist: usare agenti di programmazione per scrivere, ottimizzare e far evolvere il codice GPU. È lo stesso passaggio che sta ridisegnando l’industria del software in generale, dalla scrittura manuale in C alle librerie, ai container, agli LLM, fino ai flussi agentici che scrivono le specifiche, implementano, testano e iterano da soli, applicato allo sviluppo su GPU.

A supporto del contesto, AMD ripropone i numeri di momentum dello stack: oltre 3 milioni di modelli su Hugging Face eseguibili out-of-the-box, i 10 principali progetti AI open source supportati nativamente e un incremento di oltre 10 volte nei contributi open source nell’ultimo anno. L’azienda rivendica inoltre il supporto “day zero” ai nuovi modelli aperti di frontiera, ottenuto tenendo hardware AMD nei sistemi di integrazione continua di progetti come Hugging Face, PyTorch, vLLM e SGLang, e accelerando la cadenza di rilascio di ROCm da un ritmo di quattro-sei mesi a uno di sei settimane.

Cosa c’è dentro ROCm.ai

ROCm.ai non è un singolo strumento, ma la combinazione di tre componenti sopra il ROCm Core (compilatori, tool, librerie, runtime e integrazione con i framework).

Il primo è la ROCm CLI, una riga di comando unificata per installare, validare, servire, aggiornare e diagnosticare i carichi AI sulle piattaforme AMD. AMD la presenta come “hardware-aware”, con configurazione automatica dell’ambiente e supporto agli scenari air-gapped, cioè installazioni locali senza connettività cloud, particolarmente rilevanti in ambito enterprise e regolamentato. La CLI comprende un launcher, un’interfaccia testuale semplificata per l’installazione e una console live (rocm dash) per telemetria, serving e interazione in chat con gli acceleratori Instinct. È rilasciata come sperimentale e distribuita su GitHub.

Il secondo componente sono le AMD Skills, ovvero la conoscenza specifica di AMD (su versioni hardware e software, configurazioni e strategie di profiling e ottimizzazione) impacchettata come “skill” per gli assistenti di coding più diffusi: Claude, Codex e Cursor. L’obiettivo è che l’agente smetta di “inciampare” quando lavora su una GPU AMD, ad esempio installando versioni vecchie di librerie o applicando ricette pensate per la concorrenza, e diventi invece un “superuser” di ROCm, con indicazioni validate dall’azienda al posto di suggerimenti generici. AMD cita skill già pronte come l’esecuzione di LLM su Instinct, l’ottimizzazione dell’inferenza e i workflow di AI locale; gli Skills sono in tech preview e disponibili su GitHub e sui marketplace degli agenti.

Il terzo, e più interessante, è Hyperloom: un sistema agentico open source che automatizza l’ottimizzazione end-to-end dell’inferenza, rimuovendo lo “Human in the loop”. Il flusso descritto da AMD è chiuso: stabilire una linea di base prestazionale, profilare e individuare i colli di bottiglia, mettere a punto la configurazione di serving, generare e riscrivere i kernel GPU, validare i guadagni e iterare. L’azienda ha affermato che Hyperloom ha già ottimizzato oltre 14.000 modelli senza intervento umano, e che compie in ore un lavoro che prima richiedeva settimane di ingegneria specializzata. In una demo che ci è stata mostrata in anteprima, il sistema stabilisce la baseline, profila, mette a punto una GEMM e riscrive un kernel con memory swizzle usando Triton, arrivando a un miglioramento del 38% “a pulsante” su un modello recente.

Le prestazioni (secondo AMD)

Il numero che AMD porta in primo piano riguarda il guadagno che l’ottimizzazione automatica strappa allo stesso hardware. Rispetto a ROCm 7, la nuova versione dello stack veicolata da ROCm.ai è dichiarata mediamente 3,3 volte più veloce in inferenza e 2,4 volte più veloce in training, sulla stessa piattaforma a 8 GPU Instinct MI355X. I due valori derivano da medie su tre modelli ciascuno: GLM-5, Kimi-K2.5 e DeepSeek-R1 per l’inferenza, DeepSeek-V2-Lite, DeepSeek-V3-16B e Qwen3-30B-A3B per il training, confrontando ROCm 7.0 con una preview di ROCm 7.2.2. I guadagni, spiega l’azienda, arrivano da lavoro su parallelismo e scheduling, gestione della memoria (paged attention, quantizzazione della KV-cache, attention unificata prefill+decode) e kernel ottimizzati (MLA decode, MoE fuse a blocchi, FlashAttention fuso, grouped GEMM).

Sul fronte hardware di nuova generazione, AMD ha mostrato anche le prestazioni misurate (non di picco) su MI455X con ROCm.ai: 20 TB/s su MLA in decode FP8, 20 PetaFLOPS di calcolo FP4, 3,2 TB/s di banda di scale-up e 190 GB/s di scale-out. Rispetto alla MI355X, l’azienda indica 3,8x di prestazioni, 3,5x di banda di scale-up e 2x di scale-out.

L’asso nella manica è la velocità di miglioramento

Il punto attorno a cui ruota l’intero discorso software è che il vantaggio competitivo, per AMD, non è un singolo benchmark ma la rapidità con cui il software migliora. L’azienda porta come esempio l’andamento del modello DeepSeek V4 Pro sulla MI355X: dal supporto “day zero” di maggio 2026, il throughput per utente è cresciuto di 5,3 volte in poche settimane, a parità di hardware e di modello, solo grazie alle ottimizzazioni software.

Questo punto è particolarmente interessante anche per valutare i confronti che circolano online, che assumono un valore tutt’altro che assoluto: quando le prestazioni migliorano a questa velocità, un raffronto “A batte B” fotografa solo un istante e dipende da quale modello è stato ottimizzato prima e da chi. Questo, ovviamente, vale anche per i numeri che AMD stessa presenta, ma inquadra bene il motivo per cui l’azienda insiste tanto sulla cadenza di rilascio.

Gli strumenti per lo sviluppatore

Attorno a ROCm.ai, AMD conferma l’impianto di astrazione a più livelli (framework, DSL in Python, librerie, programmazione a basso livello) con FlyDSL, il linguaggio Pythonic dell’azienda per scrivere kernel a un livello più alto senza la complessità del C++, presentato come capace di eguagliare o superare le prestazioni del codice GPU scritto a mano. Ci sono anche strumenti di supporto come Trace Lens, per tracciare il percorso dai framework fino ai kernel, e Geek, per la validazione bit-a-bit della precisione dei kernel ottimizzati, oltre all’integrazione nativa con VS Code, Cursor e GitHub Copilot e al supporto per ambienti air-gapped.

Ma alla fine, uno degli aspetti più importanti è la continuità dello stack: ROCm attraversa l’intera gamma hardware, dal mini-PC all’AI PC, dalla workstation al data center fino al rack-scale, e gli stessi acceleratori Instinct servono sia l’AI su larga scala (MI455X) sia i carichi sovereign AI e HPC. Avere un solo ambiente software, dallo sviluppo alla produzione, è uno dei vantaggi più grandi che si possono avere in questo campo.