I log dei chatbot usati come prova non convincono la giuria, nodo privacy per le imprese

Per le imprese italiane che stanno portando ChatGPT e altri assistenti generativi dentro processi commerciali, legali e tecnici, il processo sul Palisades Fire mostra un passaggio concreto: le conversazioni con un chatbot possono finire nel fascicolo di una causa come prova in giudizio, anche quando poi non bastano a convincere una giuria. Il caso arriva dagli Stati Uniti, ma parla direttamente a chi in Italia deve decidere policy interne, retention dei dati, accessi degli amministratori e limiti all’uso di account personali.

Secondo il resoconto pubblicato da The Verge, i procuratori hanno usato i log di ChatGPT nel processo contro Jonathan Rinderknecht, accusato di aver appiccato un incendio il giorno di Capodanno 2025, poi diventato uno dei roghi più letali nella storia di Los Angeles. La giuria non ha raggiunto un verdetto: il voto è stato 10 a 2 a favore della difesa e il giudice ha dichiarato il mistrial, cioè l’annullamento del processo per mancata decisione unanime.

Quando il prompt entra nel fascicolo

La tesi dell’accusa non si fondava solo sulla cronologia del chatbot. I procuratori hanno richiamato anche dati di localizzazione dell’iPhone, riprese delle telecamere di sicurezza e testimonianze. In quel quadro sono stati inseriti anche i log di ChatGPT, trasformando interazioni normalmente percepite come conversazioni private o esplorative in un elemento processuale da valutare davanti ai giurati.

Stando a quanto riportato, l’accusa ha sostenuto che Rinderknecht avesse chiesto a ChatGPT di generare immagini di incendi, avesse domandato al chatbot Why am I so angry all the time? e avesse scritto sfoghi contro i ricchi, accusati di distruggere il mondo. I procuratori hanno citato anche una registrazione dello schermo nella quale l’imputato chiedeva se una persona potesse essere ritenuta responsabile di un incendio partito da una sigaretta.

Il passaggio decisivo, per il mondo aziendale, è che il contenuto non è stato trattato come rumore digitale irrilevante. Una giurata ha detto a CBS LA di non considerare quei log una prova di qualcosa e di parlare con ChatGPT continuamente; secondo la sua valutazione, l’uso del chatbot non indicava un difetto di carattere. La prova digitale è quindi entrata nel processo, ma il suo peso probatorio è rimasto controverso.

La privacy non resta fuori dall’aula

In Europa il punto di partenza non è la discovery statunitense, ma la disciplina dei dati personali. Se un dipendente inserisce in un chatbot nomi di clienti, dati di progetto, informazioni sanitarie, contestazioni disciplinari, documenti riservati o dati di fornitori, l’azienda deve trattare quella traccia come un dato governato da regole interne e da obblighi normativi, non come una chat informale separata dai sistemi aziendali.

Il testo del GDPR su EUR-Lex fissa principi come Regolamento (UE) 2016/679, liceità, minimizzazione e limitazione della conservazione. Tradotto in pratica, l’adozione di strumenti generativi in azienda richiede istruzioni su quali dati non devono essere inseriti, chi può accedere alla cronologia, per quanto tempo conservarla e con quale base giuridica trattarla.

L’Italia ha già un precedente specifico su ChatGPT. Nel provvedimento italiano su ChatGPT, il Garante privacy ha disposto il 30 marzo 2023 una limitazione provvisoria del trattamento dei dati degli utenti italiani nei confronti di OpenAI. L’Autorità ha richiamato il data breach del 20 marzo, la mancanza di informativa e l’assenza di una base giuridica per la raccolta e conservazione massiccia di dati personali a fini di addestramento; OpenAI doveva comunicare entro 20 giorni le misure adottate, con rischio di sanzione fino a 20 milioni di euro o fino al 4% del fatturato globale annuo.

Il lavoro europeo è poi proseguito sul piano coordinato. Il rapporto EDPB sulla task force ChatGPT, pubblicato il 24 maggio 2024, è collegato ai temi dell’enforcement GDPR, della cooperazione tra autorità e dell’intelligenza artificiale. Per i responsabili privacy italiani il segnale operativo è chiaro: l’uso di chatbot generalisti non può essere lasciato alla sola iniziativa dei singoli reparti.

Policy aziendali prima del contenzioso

Nel processo statunitense i log sono stati usati dall’accusa; in azienda la stessa categoria di dati può comparire in audit interni, verifiche disciplinari, incident response, contenziosi con clienti o fornitori, richieste dell’autorità o procedure di e-discovery quando il gruppo opera anche in giurisdizioni estere. La domanda da porsi non è solo se un dipendente possa usare un chatbot, ma quale sistema aziendale registra quell’uso e chi ne governa il ciclo di vita.

OpenAI, nella pagina privacy enterprise di OpenAI, indica che per ChatGPT Business, Enterprise, Edu e altri workspace gestiti sono gli amministratori a controllare il periodo di conservazione dei dati; le conversazioni cancellate vengono rimosse entro 30 giorni, salvo obblighi legali di conservazione. La società indica inoltre controlli per le organizzazioni qualificate, inclusa la possibilità di configurare criteri di zero data retention sulla piattaforma API.

Per una PMI questo significa distinguere tra account consumer usati senza controllo e workspace gestiti con amministrazione centralizzata. Per un gruppo enterprise significa coordinare legal, DPO, sicurezza, HR e procurement: i log possono contenere segreti commerciali, dati personali, informazioni su vulnerabilità, discussioni su clienti o bozze contrattuali. Se restano in account personali, l’impresa perde visibilità proprio sul punto che può diventare probatorio.

Le policy interne dovrebbero quindi fissare almeno quattro livelli: dati vietati nei prompt, casi d’uso autorizzati, conservazione e cancellazione, gestione degli accessi amministrativi. A questi si aggiungono formazione dei dipendenti, clausole nei contratti con i fornitori, valutazione del trasferimento dei dati e procedure per bloccare o preservare i log quando nasce un contenzioso.

Il limite della prova digitale

Il verdetto mancato mostra anche un limite: la disponibilità di una traccia digitale non coincide con la sua capacità di dimostrare intenzione, responsabilità o nesso causale. Nel caso Rinderknecht, i procuratori hanno inserito i log nel mosaico probatorio, ma la giuria si è divisa in modo netto a favore della difesa. La reazione della giurata citata da CBS LA segnala un rischio per chi costruisce accuse o difese su contenuti generati in chat: conversazioni ipotetiche, sfoghi e richieste creative possono essere interpretati in modo diverso da chi li valuta.

La ricostruzione diffusa da Associated Press conferma che 10 giurati su 12 erano orientati per il non colpevole e che Rinderknecht dovrà affrontare un nuovo processo. AP riporta anche che l’accusa riguarda l’incendio del Palisades Fire e che il caso si fonda su elementi digitali e circostanziali contestati dalla difesa.

Per le imprese italiane il problema non è decidere se un prompt sia sempre prova forte o debole. Il punto è predisporre una catena di governo: autenticità del log, identità dell’utente, timestamp, contesto della conversazione, policy applicabile, eventuali cancellazioni e motivazione della conservazione. Senza questi elementi, anche una traccia tecnicamente disponibile può diventare difficile da usare in modo coerente.

Cosa devono fare le imprese

La prima misura è censire gli strumenti generativi realmente usati, compresi quelli introdotti dai singoli team senza acquisto centralizzato. La seconda è separare gli usi a basso rischio da quelli che trattano dati di clienti, personale, proprietà intellettuale o informazioni regolamentate. La terza è collegare ogni uso a una base documentale: informativa, istruzioni agli autorizzati, registro dei trattamenti e, quando necessario, valutazione d’impatto.

I contratti con i vendor devono coprire conservazione, accesso degli amministratori, subfornitori, localizzazione dei dati, esportazione dei log, cancellazione, audit e assistenza in caso di richiesta dell’autorità. Per i team tecnici, la scelta tra interfaccia web, workspace gestito e API non è solo una preferenza di prodotto: cambia il controllo sui dati, la possibilità di applicare retention definite e il modo in cui l’azienda può ricostruire un evento.

Il processo sul Palisades Fire non ha convinto la giuria sull’uso dei log di ChatGPT come prova del caso specifico. Ha però mostrato che quelle conversazioni possono uscire dal perimetro dell’esperimento individuale ed entrare in un procedimento. Per le aziende, la risposta più concreta è trattare prompt, output e metadati come documenti aziendali potenzialmente sensibili, con regole prima dell’incidente e non dopo la richiesta di produrli.