Anthropic ha chiesto ai principali laboratori di AI di concordare una pausa coordinata nello sviluppo dei modelli di frontiera, perché l’auto-miglioramento ricorsivo potrebbe diventare realtà entro due anni. La posizione ufficiale è stata pubblicata il 4 giugno dall’Anthropic Institute e rilanciata da Scientific American e Fortune. Un laboratorio AI in prima linea chiede formalmente di rallentare il proprio settore, e lo fa pochi giorni dopo aver depositato il prospetto per la più grande IPO AI mai vista.
Nel maggio 2026 oltre l’80% del codice integrato nella codebase interna di Anthropic è stato scritto da Claude stesso, non da ingegneri umani. Secondo Jack Clark, cofondatore Anthropic, l’auto-progettazione di sistemi successori potrebbe entrare nella zona di rischio entro 24 mesi. Tom’s Hardware ha già raccontato che Claude Code decide già in autonomia quando agire, e ogni nuova versione del modello sposta più in là il confine dell’azione delegata senza supervisione umana esplicita. La proiezione non è speculativa, è estrapolazione di trend già in atto e verificabili nei rilasci pubblici degli ultimi diciotto mesi.
L’échec del precedente storico è utile per inquadrare la portata. La richiesta di pausa ricorda la lettera del Future of Life Institute del 2023, firmata da Elon Musk e altri, che chiedeva sei mesi di stop allo sviluppo dei modelli di frontiera. Quella richiesta cadde nel vuoto, e nessuno dei firmatari modificò la propria roadmap. Stavolta la differenza è che a chiederlo è un laboratorio di frontiera, non un’organizzazione esterna critica, e arriva mentre Anthropic vive un momento di massima esposizione pubblica per la prossima quotazione di Borsa.
Una posizione che divide il settore
OpenAI, Google DeepMind e xAI non hanno aderito alla richiesta. Sam Altman ha dichiarato in passato che la pausa unilaterale sposterebbe lo sviluppo verso laboratori meno responsabili, e l’argomento ha un suo peso politico: senza coordinamento globale, la mossa di un singolo attore non riduce il rischio sistemico ma cede vantaggio competitivo ai concorrenti. La proposta Anthropic ha senso solo se diventa coordinamento internazionale, altrimenti è autolesionismo competitivo travestito da virtù etica.
Quando chi corre per primo chiede di rallentare, vale la pena di ascoltare.
Tom’s Hardware ha già documentato il quadro più ampio della politica di sicurezza di Anthropic. L’analisi sulla Responsible Scaling Policy 3.0 mostra una traiettoria più ambigua di quella che la posizione pubblica suggerisce: il veto di sicurezza che Anthropic aveva introdotto nel 2023 come elemento distintivo è sparito nella versione 3.0 del documento, sostituito da un impegno più sfumato a monitorare la concorrenza e comportarsi di conseguenza. Lo stesso Jared Kaplan, cofondatore e Chief Science Officer, ha spiegato le ragioni del cambio: le regolamentazioni attese non sono arrivate, la scienza degli assessment di rischio si è rivelata più complicata, la competizione è diventata troppo intensa per impegni unilaterali. L’attuale richiesta di pausa globale va letta sullo sfondo di questa storia recente, non come novità assoluta.
Le contraddizioni che il pubblico fatica a vedere
Anthropic vive in una posizione difficile da raccontare in modo lineare. Da un lato chiede al settore di rallentare per ragioni di rischio esistenziale. Dall’altro continua a sviluppare modelli più capaci di quelli precedenti, ha appena depositato il prospetto per la più grande IPO AI di sempre, ha annunciato Mythos, un sistema AI capace di trovare zero-day meglio di qualsiasi hacker umano. Una posizione di safety credibile non si concilia facilmente con queste mosse di business.
Tom’s Hardware ha anche raccontato che Claude ha bruciato 500 milioni in costi di inferenza in pochi mesi, e che i blackout di Claude bloccano team da 60 persone in poche ore quando l’azienda interrompe il servizio. Il laboratorio che chiede al mondo di rallentare è lo stesso che ha integrato la propria AI nel ciclo di sviluppo di Microsoft Copilot (Tom’s Hardware ha raccontato come Windows Copilot abbia cambiato motore mettendo Claude dentro al posto di OpenAI) e che sta ridefinendo gli standard di autonomia agentica nel software.
Il caso Pentagono e la coerenza testata
Un punto a favore della credibilità di Anthropic resta però verificabile e concreto. Tom’s Hardware ha raccontato che Anthropic ha rifiutato il Pentagono nonostante la pressione di Hegseth per usi che includevano sorveglianza di massa e armi autonome, mentre Google ha aperto la propria AI al Pentagono senza altrettante resistenze. Il costo di quella scelta è stato commerciale e reputazionale, non tecnico, e dimostra che almeno alcuni degli impegni dichiarati di Anthropic hanno un fondamento operativo, non solo retorico. La differenza tra dichiarazione e azione non è sempre vuota nel caso Anthropic, e questo conta nel valutare la sincerità della richiesta di pausa attuale.
Quando chi corre per primo chiede di rallentare, vale la pena di ascoltare.
Cosa significa per chi compra AI in azienda
Chi compra modelli AI non gestisce direttamente il rischio di auto-miglioramento ricorsivo dei modelli di frontiera. La discussione ha però tre conseguenze pratiche sulle scelte di breve periodo.
Continuità dei contratti: se i grandi laboratori introducono in futuro vincoli o pause volontarie, la disponibilità delle nuove versioni dei modelli potrebbe rallentare. Per chi sta progettando workflow che dipendono da capability emergenti (agenti autonomi, ragionamento multi-step, integrazione con tool esterni), pianificare buffer e fallback su modelli di generazione precedente diventa prudente, e prevedere clausole contrattuali su downgrade controllato delle feature critiche è una raccomandazione tecnica concreta.
Regolamentazione in arrivo: l’iniziativa Anthropic dà munizioni a chi nei governi spinge per norme più strette. La AI Act europea ha già stabilito obblighi per i sistemi general-purpose ad alta capacità, e la dichiarazione di Anthropic potrebbe accelerare la richiesta di obblighi simili negli Stati Uniti. Le aziende che usano modelli di frontiera in casi d’uso ad alto rischio devono prepararsi a obblighi di audit e di disclosure più stringenti, e iniziare a documentare oggi i propri sistemi in produzione per non trovarsi sguarniti quando arriveranno le ispezioni.
Strategia di portafoglio modelli: la concentrazione di tutto il proprio stack AI su un singolo fornitore di frontiera espone a rischi che vanno oltre l’affidabilità del servizio. Tom’s Hardware ha già mostrato che esistono modelli di livello industriale alternativi che possono coprire una parte del carico, e che le aziende stanno già sotto-investendo in governance AI, comportamento che amplifica il rischio di esposizione a single point of failure tecnico e contrattuale.
L’argomento controfattuale
Si potrebbe ribaltare la lettura della mossa Anthropic: il laboratorio chiede una pausa coordinata sapendo che non avverrà, costruendo così un’immagine pubblica di responsabilità mentre continua a sviluppare. La copertura mediatica della posizione è stata massiccia, e l’effetto reputazionale è positivo per il marchio in vista dell’IPO, dove il posizionamento etico fa parte della valutazione degli investitori istituzionali ESG-sensitive.
L’obiezione ha fondamento, ma sottovaluta un fattore. La dichiarazione include impegni interni che hanno costo concreto: maggiore investimento in interpretability, allineamento, audit dei modelli prima del rilascio. Sono tutti elementi che rallentano il time-to-market e abbassano i margini, e che hanno già prodotto eventi di servizio degradato per i clienti enterprise. Anthropic sta dichiarando pubblicamente vincoli che le sue concorrenti non hanno accettato, e questo è il vero terreno su cui valutare la sincerità della posizione. La pausa coordinata può non arrivare, ma le scelte interne di Anthropic restano verificabili nei prossimi rilasci, e questo è il più vicino a un test empirico che il mercato AI possa offrire oggi.
#Adessonews seleziona nella rete articoli di particolare interesse.
Se vuoi leggere l’articolo completo clicca sul seguente link
Davide Greco
Source link
