Quando il bot "dice" qualcosa che non ha mai detto. Come una voce diventa notizia

Tesi: il guasto non è nel modello, ma nella redazione che pubblica lo screenshot di una chat come fonte. Finché i contenuti fittizi non saranno etichettati per obbligo, ogni "prova dal chatbot" diventerà munizione per la disinformazione.

La vicenda sembrava un tipico virale di internet. Nei video un assistente AI cinese avrebbe consigliato di cuocere le pantofole per farle "tornare alla misura originale". Il materiale ha circolato ovunque. Una parte dei media e diversi account istituzionali l'hanno preso per la prova degli errori pericolosi dei chatbot. Quando la storia è arrivata all'ufficio comunicazione del produttore, l'azienda ha diffuso una smentita: il modello non aveva detto nulla del genere.

L'indagine ha rivelato qualcosa di più importante del semplice errore. I video erano messi in scena per scherzo, partendo da un detto popolare: "le scarpe che si sono strette si possono far riammorbidire bollendole". L'autore ha ammesso di aver indirizzato di proposito il modello verso una risposta sbagliata e di aver registrato il risultato. Non ha però segnalato il materiale come finzione o gioco. L'effetto era prevedibile: il pubblico, giornalisti compresi, ha visto una clip breve senza contesto e l'ha scambiata per il comportamento reale del prodotto. La spiegazione ufficiale dell'azienda lo dice in una riga: "una voce è diventata una notizia".

Lo schema si è ripetuto due volte. Lo stesso team di pubbliche relazioni aveva già smentito un'altra storia: una classifica delle "dieci star più popolari", generata da un blogger con l'aiuto dell'AI e attribuita al prodotto come se fosse una sua risposta. In entrambi i casi il meccanismo era identico. Nessun guasto del sistema: una risposta provocata di proposito, tagliata fuori dal contesto e fatta circolare come fatto.

Perché non è solo un problema cinese? Perché lo stesso schema alimenta le decisioni normative in tutto il mondo. L'articolo 50 dell'AI Act europeo impone di etichettare i contenuti generati e manipolati in un formato rilevabile automaticamente. Il calendario delle applicazioni mostra quanto sia difficile tenere insieme la velocità del mercato e il rigore della legge. I sondaggi d'opinione dicono anche altro: il pubblico le etichette le vuole già. L'81 per cento dei tedeschi considera importante indicare con trasparenza le fonti e i dati di addestramento, il 54 per cento controlla i risultati dei modelli per scoprire eventuali errori.

La conclusione è quindi doppia. Primo: l'obbligo di etichettare i materiali messi in scena e fittizi dovrebbe riguardare non solo i contenuti sintetici, ma anche i video che usano i modelli come prova principale. Secondo, e più importante: la redazione non può trattare uno screenshot della finestra di chat come una fonte. Se pubblichiamo uno schermo come prova, dobbiamo verificare se la risposta è stata provocata sotto pressione e se ne esiste il contesto completo. È un requisito di base del mestiere, diventato critico nell'era dei generatori. Una voce non diventa un fatto perché qualcuno l'ha registrata: lo diventa perché qualcuno l'ha pubblicata senza verificarla.