L’AI ora vuole decidere se il tuo dolore è vero

C’è una scena che chiunque conviva con il dolore cronico conosce a memoria. Si svolge in un ambulatorio, o dietro la scrivania di un assicuratore, o al tavolo di cucina davanti a un familiare. Una persona prova a spiegare quanto male sente. E dall’altra parte arriva, prima o poi, la stessa domanda, pronunciata con vari gradi di gentilezza: “Ma è davvero così grave? Sei sicuro che non sia tutto nella tua testa? Hai provato a farti un po’ più forte?”. Il dolore, quello vero, quello che non si vede in nessuna radiografia, ha sempre dovuto fare i conti con lo scetticismo di chi lo guarda da fuori. Ed è proprio su questa ferita antica che oggi si posa la promessa più seducente, e più insidiosa, dell’intelligenza artificiale applicata alla medicina.

Lo racconta Jan Vollert, ricercatore sul dolore cronico all’Università di Exeter, in un intervento che parte da una constatazione tanto semplice quanto inquietante: abbiamo sempre dubitato di chi dice di soffrire. La novità è che ora possiamo costruire una macchina che lo faccia al posto nostro.

Il sogno della prova oggettiva

La tentazione è comprensibile, quasi nobile. Il dolore è il più solitario degli stati umani: nessuno può sentirlo per te, nessuno può misurarlo dall’esterno. Per secoli la medicina ha dovuto fidarsi della parola del paziente, l’unico strumento davvero affidabile per sapere quanto e dove fa male. E la parola, si sa, è fragile. Può essere esagerata, fraintesa, simulata. Da qui il sogno: e se uno scanner cerebrale, letto da un algoritmo abbastanza sofisticato, potesse finalmente trasformare la sofferenza in un’immagine? Un grafico, un numero, una soglia superata o no. Una prova.

Le immagini prodotte dai moderni scanner cerebrali sono troppo complesse perché un occhio umano possa decifrarle con sicurezza. Ma è esattamente lì che l’intelligenza artificiale entra in scena, promettendo di vedere ciò che noi non vediamo: schemi nascosti nell’attività neurale, microespressioni del volto che durano un battito di ciglia, variazioni del battito cardiaco. La macchina non si lascia ingannare da un sorriso di circostanza o da una smorfia trattenuta. O almeno, è questo che ci viene detto. Di fatto, ricorda Vollert, qualcosa del genere è già stato portato davanti a un giudice: prove neuroscientifiche del dolore usate in tribunale per dare credito a chi affermava di soffrire. In quel caso, il paziente ne ha tratto beneficio. Ma è proprio qui che la storia si capovolge.

Il rovescio della medaglia

Perché se una macchina può confermare che il tuo dolore è reale, la stessa macchina può anche dichiarare il contrario. Può guardarti negli occhi (letteralmente, attraverso una telecamera) e stabilire che stai fingendo. E a quel punto la domanda non è più “ti credo?”, ma “ti crede l’algoritmo?”. È una differenza enorme, perché sposta il giudizio da un essere umano fallibile, ma interrogabile, a un sistema che si presenta con l’aura dell’oggettività e che nessuno, in pratica, sa davvero come contestare.

È il passaggio che dovrebbe farci venire i brividi. Un conto è un medico che dubita di te: puoi guardarlo, spiegarti, cercare un secondo parere. Un altro è un referto generato da un software, esibito in una causa di lavoro o davanti a una compagnia assicurativa, che certifica con apparente neutralità che la tua sofferenza non raggiunge la soglia prevista. Dove un essere umano lascia almeno lo spazio del dubbio, la macchina chiude la porta con un verdetto che sembra non avere autore.

Il pregiudizio non sparisce: si nasconde nel codice

E qui arriva il punto che Vollert mette al centro del suo ragionamento, quello che dovrebbe disinnescare ogni entusiasmo. Chi viene creduto, quando dice di soffrire, non è mai stato deciso a caso. Le donne, le persone razzializzate, i poveri, chi ha meno istruzione: sono loro a vedersi negare credito con più frequenza, a sentirsi dire più spesso che il loro dolore è esagerato o immaginario. E la crudeltà, osserva il ricercatore, è doppia, perché sono proprio questi gli stessi gruppi che il dolore cronico colpisce di più.

Cosa succede, allora, quando un’intelligenza artificiale viene addestrata su dati raccolti in un mondo che funziona così? Succede l’ovvio. La macchina non ripulisce i nostri pregiudizi: li assorbe, li sistematizza, li restituisce con la patina rassicurante della statistica. Eredita esattamente gli stereotipi di chi l’ha nutrita. Il pregiudizio del medico distratto poteva almeno essere riconosciuto e corretto. Quello sepolto in milioni di parametri di un modello opaco diventa invisibile, e quindi molto più difficile da combattere. Lo aveva già notato, in un’altra occasione, chi ascoltava Vollert parlare di IA nella medicina del dolore: l’algoritmo può essere interrogato all’infinito finché non sputa fuori la risposta che si voleva sentire, e noi tendiamo a credere troppo alle macchine, convinti che non sbaglino mai.

Ricordiamoci che il dolore è quasi sempre invisibile

Vale la pena fermarsi su un dato, perché smonta da solo l’idea che il dolore “vero” debba per forza lasciare una traccia visibile da qualche parte. Il mal di schiena è la prima causa di disabilità al mondo secondo l’Organizzazione mondiale della sanità, e nella stragrande maggioranza dei casi non se ne trova una causa fisica precisa. Milioni di persone vivono ogni giorno con una sofferenza concreta, limitante, che nessuno strumento riesce a localizzare in una lesione. Pretendere che una macchina decida chi soffre davvero significa, in fondo, pretendere che renda visibile ciò che per sua natura non lo è. E quando uno strumento promette di fare l’impossibile, di solito sta semplicemente sbagliando con grande sicurezza.

La vera lezione della macchina

La conclusione di Vollert ha la forza secca di un aforisma, e merita di essere lasciata intera. Uno scanner del dolore non ci dirà chi sta soffrendo e chi sta mentendo. Ma forse ci dirà qualcos’altro, qualcosa su di noi: quanto facilmente scambiamo la sicurezza tecnologica per verità. In medicina, nelle assicurazioni, nei tribunali, questo scambio non è un dettaglio filosofico. È la differenza tra un dolore che viene riconosciuto e uno che viene archiviato. Tra una persona che riceve cure e una che viene rimandata a casa con il sospetto di aver esagerato.

C’è un’ironia profonda in tutta questa vicenda. Per secoli abbiamo desiderato uno strumento che ci liberasse dal peso di doverci fidare l’uno dell’altro. E ora che quello strumento sembra a portata di mano, scopriamo che il problema non era mai stato tecnico. Il dolore non chiede di essere misurato. Chiede di essere creduto. E nessun algoritmo, per quanto raffinato, può fare al posto nostro la cosa più semplice e più difficile di tutte: ascoltare qualcuno e decidere di prenderlo sul serio.

Il consiglio finale del ricercatore è quasi disarmante nella sua umanità. Se qualcuno vi parla del proprio dolore cronico, mettete da parte ogni scetticismo. Ricordatevi che il dolore, quasi sempre, è invisibile. E ricordatevi anche che le macchine sbagliano, esattamente come noi; solo che lo fanno con una faccia che sembra non avere dubbi.