Politici fatti con l’AI, la gente crede e si fida più di quelli veri

Un gruppo di ricercatori dell’Università di Passau ha chiesto a GPT-4 Turbo di imitare 112 personaggi pubblici britannici, tra politici, giornalisti, medici e imprenditori, rispondendo alle stesse domande che il pubblico aveva rivolto loro nel programma della BBC Question Time nella campagna elettorale del 2024. Il risultato, pubblicato su PLOS One e riportato da 404 Media, è che i partecipanti al test hanno giudicato le risposte generate dall’AI più autentiche, coerenti e pertinenti di quelle pronunciate davvero dalle persone che imitavano.

Lo studio ha coinvolto 948 partecipanti nel Regno Unito, a cui sono state mostrate coppie di risposte, una reale e una generata dal modello, senza sapere quale fosse quale. La maggioranza ha preferito le versioni AI per coerenza e pertinenza, e più della metà le ha giudicate più autentiche dell’originale. Non parliamo di persone sconosciute imitate senza contesto: parliamo di uno dei programmi politici più seguiti del Regno Unito, con personaggi che milioni di spettatori hanno visto parlare dal vivo.

Un risultato che ha sorpreso anche chi lo ha misurato

“È stato davvero sorprendente, perché si suppone che l’autenticità sia difficile da falsificare”, ha dichiarato Steffen Herbold, docente di data science e a capo della ricerca. “Non stiamo parlando di persone sconosciute. Stiamo parlando di uno dei programmi più importanti del Regno Unito.” Herbold ha comunque osservato che una parte del divario è strutturale: i politici reali rispondono a braccio davanti a una telecamera, in una situazione che produce risposte meno rifinite, mentre il modello attinge a testi già esistenti e costruiti con calma.

Per addestrare l’AI a impersonare ogni singolo speaker, i ricercatori hanno fornito al modello le biografie Wikipedia dei soggetti e un prompt di sistema che imponeva di rispondere restando nel personaggio, senza mai nominarlo, in circa 200 parole e con tono colloquiale. Dopo l’esperimento, i partecipanti sono stati informati che una delle due risposte era generata da un’AI. Molti sono rimasti spiazzati: “Wow, non avrei mai creduto che fosse AI”, ha raccontato Herbold parlando delle reazioni raccolte. Solo una o due persone, su quasi mille, avevano già sospettato l’inganno durante il test.

Il problema si sposta dai deepfake visivi al testo scritto

Finora la conversazione pubblica sulla disinformazione politica generata dall’AI si è concentrata soprattutto su video e audio manipolati: volti clonati, voci sintetiche, dichiarazioni mai pronunciate messe in bocca a un leader. Lo studio di Passau sposta l’attenzione su un terreno meno spettacolare ma più facile da scalare: il testo scritto, prodotto in tempo reale, senza bisogno di render grafici o clonazione vocale, distribuibile su chat, forum e commenti social a costo quasi zero. Un impersonatore testuale non richiede competenze tecniche avanzate: basta un modello linguistico commerciale e una biografia pubblica.

Il fenomeno si inserisce in una tendenza già documentata sul fronte aziendale. I deepfake vocali colpiscono già metà delle imprese prese di mira da truffe telefoniche, e dietro la produzione di contenuti falsi si muove ormai un’economia sommersa che va dalle cyber mafie alla pedopornografia. Anche il fronte legale si sta muovendo, con paesi che stanno portando volti e voce sotto la tutela del copyright proprio per arginare l’uso non autorizzato dell’immagine altrui. La differenza, nel caso della politica, è che non serve nemmeno clonare una voce o un volto: basta un testo scritto bene, attribuito alla persona giusta, al momento giusto.

Lo studio non nasce isolato. La stessa ipotesi, che i modelli linguistici sappiano imitare in modo convincente politici e altre figure pubbliche, era già stata documentata in un paper accademico precedente, e la rilevanza dei risultati ha spinto anche testate scientifiche generaliste come Phys.org a riprendere lo studio con lo stesso titolo che riassume il problema in una riga: le risposte generate dall’AI battono i politici reali su autenticità e coerenza. Quando due gruppi di ricerca indipendenti arrivano a conclusioni simili, a distanza di tempo e con metodologie diverse, il risultato smette di essere un’anomalia statistica e comincia a somigliare a una proprietà stabile dei modelli linguistici attuali.

Chi guadagna da una realtà sempre più difficile da verificare

Uno studio accademico non ha secondi fini, ma i risultati che produce diventano subito materiale utile per chi i secondi fini li ha eccome. Una campagna elettorale che voglia distribuire risposte “a nome di” un candidato su temi divisivi, senza esporlo direttamente, ha ora una prova sperimentale che la tattica funziona meglio di quanto chiunque si aspettasse. Lo stesso vale per chi vuole screditare un avversario attribuendogli dichiarazioni mai fatte: se il pubblico giudica il testo falso più autentico di quello vero, la smentita successiva arriva sempre in ritardo rispetto al danno.

C’è poi un secondo livello, più strutturale. Più aumentano i casi di testi e dichiarazioni fabbricate che circolano senza etichetta, più cresce la sfiducia generalizzata verso qualunque dichiarazione pubblica, vera o falsa che sia. È il meccanismo su cui contano i regimi autoritari che praticano disinformazione su scala industriale: non serve convincere tutti di una bugia specifica, basta rendere impossibile distinguere il vero dal falso, così che ogni fatto scomodo possa essere liquidato come “probabilmente generato da un’AI”. Chi ci guadagna, in questo scenario, è chiunque abbia interesse a erodere la fiducia nel dibattito pubblico in quanto tale, non solo chi produce il singolo falso.

Le contromisure restano più lente della tecnologia

Herbold cita due strade percorribili: misure regolatorie, come il divieto dei deepfake politici già discusso in diverse giurisdizioni, ed educazione del pubblico a riconoscere i segnali di un testo generato. Nessuna delle due è pronta oggi su scala sufficiente. Le normative sui contenuti sintetici procedono paese per paese, spesso con anni di ritardo rispetto alla capacità tecnica dei modelli, e l’alfabetizzazione digitale del pubblico medio non tiene il passo con la velocità con cui questi strumenti migliorano. Nel frattempo, ogni nuova generazione di modelli linguistici rende il problema descritto dallo studio più difficile da individuare, non più facile.

Qualcosa comunque si muove sul fronte tecnico. Le principali piattaforme social hanno introdotto sistemi di watermarking e firma crittografica dei contenuti generati dai propri modelli, e alcuni provider di AI si sono impegnati a etichettare in modo visibile i testi prodotti dai loro sistemi quando riguardano figure pubbliche. Sono strumenti utili ma parziali: funzionano solo se applicati alla fonte, e chiunque usi un modello open source o rimuova i metadati aggirati il controllo senza sforzo particolare. La differenza tra un problema risolto e un problema contenuto, in questo campo, resta sottile.

“La nostra speranza è che questo studio aumenti la consapevolezza del rischio di disinformazione”, ha detto Herbold chiudendo la sua analisi. È un obiettivo minimo, quasi rassegnato, per uno studio che dimostra qualcosa di più inquietante: non che l’AI può ingannare le persone distratte, ma che può farlo meglio della realtà stessa, con un pubblico attento, su un tema che gli elettori seguono da vicino. Chi lavora nella comunicazione politica, nelle relazioni istituzionali o nella gestione della reputazione aziendale farebbe bene a considerare questo studio non come una curiosità accademica, ma come la prova che il problema non riguarda più solo i video falsi: riguarda ogni singola parola attribuita a qualcuno online, verificabile o no.