Quanto è davvero utilizzabile dei risultati AI, e quanto ci costa?

Per anni la domanda che contava era quanta AI un’azienda riuscisse a produrre: quante immagini, quante risposte, quante righe di codice al minuto. Quella domanda si sta spostando su un altro asse: quanto di quell’output sopravvive al controllo umano prima di finire in produzione. Lo mette a fuoco un’intervista di TechRadar Pro a Matt Rouif, CEO di Photoroom, ma il punto vale a prescindere da chi lo dice: cambia il modo in cui un’azienda deve leggere un contratto AI, non solo il modo in cui il mercato lo racconta.

Dalla capacità del modello a chi si fida dell’output

La capacità di generare contenuti a volume è la parte facile: il problema arriva quando qualcuno deve decidere se quel contenuto può uscire senza controllo o deve passare da un revisore. È una distinzione ovvia solo per chi non ha mai gestito un progetto AI in produzione.

Il settore e-commerce offre numeri precisi su questo scarto. Il 55% dei consumatori dichiara che immagini prodotto fatte male dall’AI riduce la fiducia in un marketplace, e il 77% si aspetta che i marketplace garantiscano l’accuratezza di quello che mostrano. Non sono percentuali che parlano di tecnologia: parlano di chi paga il conto quando la tecnologia sbaglia in pubblico.

Il lato enterprise del dato è ancora più diretto. Il 37% dei buyer aziendali indica le immagini inaccurate come primo problema riscontrato con questi strumenti, e il 63% considera le variazioni di immagini e branding un segnale di inaffidabilità del fornitore. Chi vende software AI per contenuti visivi si trova davanti a un paradosso: il prodotto genera più output, ma ogni errore visibile costa più fiducia di prima.

Il costo nascosto è la revisione umana, non il token

Il pricing AI degli ultimi tre anni si è costruito quasi ovunque sul consumo: token, chiamate API, immagini generate, minuti di calcolo. È un modello comodo per il fornitore perché fattura la produzione, indipendentemente da cosa succede all’output dopo. Il problema è che il cliente ha iniziato a misurare quanta parte di quella produzione finisce nel cestino dopo la revisione umana, e quel numero, quando esce allo scoperto, non è mai piccolo.

Il pricing a consumo diventa indifendibile perché il cliente ha finalmente uno strumento per contare il proprio scarto: ore di persone che controllano, correggono o rifanno da capo quello che il modello ha prodotto. È un costo che negli ultimi due anni Tom’s Hardware ha già raccontato più volte parlando dei costi nascosti del TCO AI, e del personale che finisce a fare da babysitter ai sistemi automatici invece che a usarli per accelerare.

Solo il 33% dei consumatori nel Regno Unito si dice a proprio agio con immagini etichettate chiaramente come “migliorate con AI”. Il 51% cambierebbe marketplace pur di avere immagini più accurate. Quando il pubblico smette di fidarsi a scatola chiusa, il costo della verifica smette di essere un dettaglio operativo e diventa parte del prezzo del prodotto.

Chi fa pagare solo il risultato verificato

Zendesk ha già cambiato modello: fattura solo le “verified outcomes”, le risoluzioni AI verificate, a 1,50 dollari l’una. Le fasi precedenti del processo, l’assisted escalation e la contained resolution, restano gratuite. Solo la verified resolution genera fattura, entro 72 ore, e solo dopo che un modello LLM separato ha valutato se la risoluzione automatica ha davvero funzionato, come ha raccontato anche Diginomica.

È un modello che sposta il rischio commerciale dal cliente al fornitore, almeno sulla carta. Ma chi certifica che una risoluzione è “verificata” resta comunque un altro sistema AI, che valuta il primo. Il controllo umano non sparisce dall’equazione, si sposta di un livello più in alto, verso chi deve fidarsi che il modello di verifica funzioni meglio del modello che verifica. Tom’s Hardware ha già scritto che servono numeri veri per uscire dalla fase di test infinito, e il pricing outcome-based è il primo tentativo concreto di darne uno.

I vincitori di questo passaggio sono i fornitori che riescono a costruire sistemi di validazione automatica abbastanza affidabili da giustificare un prezzo più alto per unità verificata, invece che per unità prodotta. I perdenti sono le aziende che hanno già firmato licenze seat-based o budget a consumo di token, e che ora si trovano a rinegoziare mentre scoprono il costo operativo reale, fatto di ore di controllo umano che nessun business case iniziale aveva messo a bilancio. È lo stesso schema raccontato a proposito della bolla dei token che sta facendo i conti con la realtà nelle aziende che avevano comprato capacità pensando di pagare solo per l’output.

Quello che i numeri non dicono ancora

La transizione da un’adozione basata sulla capacità a un’adozione basata sulla garanzia, come la chiamano i primi fornitori che la promuovono, è plausibile nell’arco di 12-24 mesi, ma resta una previsione di chi vende proprio quel tipo di garanzia. Solo il 24% dei consumatori usa già, o è disposto a usare, strumenti AI per gli acquisti online, mentre il 59% resta a disagio: sono numeri che raccontano un mercato che non si fida ancora, non uno che ha già trovato il meccanismo che risolve il problema. Manca inoltre una definizione condivisa di come si misuri in modo oggettivo l'”usabilità” di un output, e chi arbitra i casi dubbi quando fornitore e cliente non sono d’accordo sulla soglia di accettabilità.

Il punto debole della narrazione, condivisa dai primi fornitori che adottano la verifica automatica, è che non elimina il lavoro umano, lo ridistribuisce. Qualcuno deve pur addestrare, calibrare e controllare il modello di verifica, ed è comunque una persona che l’azienda deve pagare, anche se il fornitore chiama tutto questo “garanzia” invece che “costo”.

Chi paga il controllo qualità quando l’AI sbaglia in produzione

Il costo della verifica non sparisce con nessun modello di pricing, semplicemente cambia indirizzo. O lo assorbe il fornitore, con margini più bassi e prezzi finali più alti per compensare, o lo assorbe il cliente, con personale interno dedicato a un controllo qualità che prima non serviva perché nessuno chiedeva ancora conto della differenza tra output prodotto e output utilizzabile.

Chi ha già investito in una licenza a consumo di token dovrebbe fare oggi lo stesso esercizio che Zendesk ha reso pubblico con il suo nuovo modello: calcolare quanta parte dell’output generato finisce effettivamente in produzione senza intervento umano, e quanta viene scartata o corretta. È lo stesso esercizio raccontato a proposito delle aziende che stanno perdendo governance sull’adozione AI: senza quel numero, qualunque discussione sul prezzo resta una discussione su cifre che non misurano il problema vero.