La storia è curiosa: un gruppo di operatori probabilmente russi utilizza ChatGPT per produrre contenuti destinati a una campagna d’influenza; OpenAI se ne accorge, chiude gli account, ricostruisce l’infrastruttura e pubblica un rapporto dettagliato. Nel frattempo, i messaggi erano finiti su X, Facebook, LinkedIn, Substack e Telegram, cioè sui luoghi che quei contenuti avrebbero dovuto trasformare in opinione pubblica. Il generatore ha individuato l’operazione; i canali incaricati di diffonderla, almeno per quanto sappiamo dal rapporto, non sembrano essersi posti il problema con la stessa sollecitudine.
L’indagine, ripresa in Italia da Formiche, riguarda l’International Burke Institute, una sedicente comunità di esperti che dichiarava di avere sede in Israele. Il sito era costruito per apparire credibile: studiosi internazionali, analisi geopolitiche, rapporti sui diversi Paesi e perfino un indice proprietario, il Burke Index, destinato a misurare la sovranità politica, economica, tecnologica, culturale e militare degli Stati.
Dietro questa autorevolezza da catalogo, secondo il rapporto pubblicato da OpenAI, c’era parecchio materiale preso in prestito senza particolare riguardo per i proprietari. Su un campione di trentasei articoli esaminati, trentaquattro erano stati copiati da lavori già disponibili online; alcuni venivano attribuiti a persone diverse dagli autori effettivi, compresa una ricerca sulla migrazione collegata al profilo di una docente australiana di chimica degli alimenti. Quando si costruisce un think tank finto, evidentemente, la specializzazione scientifica diventa un dettaglio negoziabile.
L’istituto pubblicava poi rapporti sulla sovranità dei Paesi che tendevano a rappresentare la Russia come una potenza indipendente e l’Occidente come un insieme di Stati subordinati, decadenti o incapaci di decidere autonomamente. L’Italia compare in un rapporto dal titolo eloquente, dedicato ai «paradossi della sovranità» di Slovacchia e Italia, definite Paesi ostaggio della “grande” Unione europea. Questo è, allo stato delle informazioni disponibili, il collegamento documentato con il nostro Paese: non la prova di una vastissima operazione capace di orientare il dibattito politico italiano, bensì l’inserimento dell’Italia nella narrativa geopolitica costruita dall’IBI.
Anche l’attribuzione merita precisione. OpenAI afferma che gli account provenivano «molto probabilmente» dalla Russia; gli operatori impartivano istruzioni in russo, utilizzavano VPN per aggirare il blocco del servizio nel Paese e chiedevano al modello di eliminare dai testi gli indizi linguistici che potessero tradirne la provenienza. Il rapporto non attribuisce la campagna al governo di Mosca o ai servizi di intelligence russi, né chiarisce del tutto i rapporti tra gli operatori e alcune persone reali che sembrano avere rappresentato l’istituto in Israele.
ChatGPT, inoltre, non aveva scritto il cuore ideologico dell’operazione. Gli articoli copiati e i rapporti sulla sovranità non risultano generati attraverso i modelli di OpenAI; l’intelligenza artificiale serviva soprattutto a confezionare post, commenti e risposte nelle lingue adatte, ripulendo la prosa dalle tracce russe e conducendo il pubblico verso il sito dell’IBI. Era il reparto comunicazione della fabbrica, non l’autore del progetto politico.
La campagna non ha conquistato l’Europa. I post pubblicati sui social ricevevano in genere poche visualizzazioni, gli account ufficiali dell’istituto avevano numeri modesti e OpenAI colloca l’operazione nella fascia più bassa della categoria 3 della Breakout Scale: distribuzione su più piattaforme e qualche contatto con utenti autentici, senza un impatto vasto. Alcuni canali Telegram collegati alla rete, però, avevano tra diecimila e ventimila iscritti; soprattutto, l’infrastruttura era pronta per crescere e disponeva di un sito, falsi esperti, materiale accademico autentico riutilizzato abusivamente e un indice apparentemente scientifico con il quale fabbricare titoli e classifiche.
La domanda, allora, rimane: perché se ne è accorta OpenAI e non chi quei contenuti li distribuiva?
Una prima risposta è tecnica. OpenAI vedeva una parte della filiera che ai social restava nascosta: i prompt in russo, le richieste di cancellare gli indizi linguistici, la reiterazione delle istruzioni, gli account collegati, l’uso delle VPN e la corrispondenza tra i testi prodotti e quelli successivamente apparsi online. Il generatore disponeva, in altre parole, di una visuale a monte; i singoli social ricevevano post che, considerati isolatamente, potevano sembrare il modesto lavoro di un centro studi o di qualche utente particolarmente interessato alla sovranità nazionale.
Questa spiegazione, però, assolve le piattaforme solo fino a un certo punto. Facebook, X e LinkedIn conoscono da anni il fenomeno dei comportamenti coordinati e non autentici; dispongono di strumenti per individuare reti di profili falsi, pubblicazioni sincronizzate, schemi anomali di condivisione e tentativi organizzati di manipolare il dibattito. Meta ricorda di avere smantellato centinaia di operazioni d’influenza dal 2017 e definisce espressamente il comportamento non autentico come uno sforzo coordinato per manipolare il dibattito pubblico attraverso account falsi. Non siamo quindi davanti a un problema che i social ignorano per mancanza di esperienza.
Sul caso specifico bisogna essere corretti: il rapporto di OpenAI non dice se le piattaforme avessero già avviato proprie indagini, se abbiano successivamente rimosso gli account o se siano state informate prima della pubblicazione. Da questo silenzio non si può dedurre con certezza che non abbiano fatto nulla. Resta il dato pubblico, ed è un dato piuttosto scomodo: il soggetto che ha raccontato l’operazione, spiegato come funzionava e chiuso gli account utilizzati per sostenerla è stato il fornitore dell’intelligenza artificiale.
C’è poi una differenza di incentivi che vale la pena osservare senza trasformarla in una sentenza. Per OpenAI, dimostrare di saper individuare un abuso rafforza la credibilità del proprio prodotto e risponde alle accuse secondo cui l’AI generativa sarebbe una macchina lasciata a disposizione dei propagandisti. Per una piattaforma sociale, invece, il contenuto controverso produce comunque interazioni, tempo trascorso sul servizio e dati; la lotta alle reti d’influenza è necessaria, ma si svolge dentro un modello economico che continua a premiare la circolazione. Sarebbe ingenuo fingere che questa tensione non esista.
In Europa il Digital Services Act obbliga le piattaforme di dimensioni molto grandi a valutare e mitigare i rischi sistemici che possono danneggiare il dibattito civico, i processi elettorali e la sicurezza pubblica; la Commissione include espressamente, tra questi rischi, le campagne coordinate di disinformazione e la manipolazione informativa straniera. Le piattaforme devono pubblicare valutazioni, misure di mitigazione e risultati degli audit: non hanno un obbligo generale di stabilire per legge quale opinione sia vera, ma devono occuparsi seriamente delle infrastrutture che rendono una campagna occulta scalabile e credibile.
OpenAI sta quindi dimostrando di tutelarci più dei social? Non abbiamo abbastanza elementi per trasformare un singolo caso in una classifica definitiva e sarebbe scorretto dimenticare le molte operazioni individuate negli anni da Meta e dagli altri gestori. In questa vicenda, però, OpenAI ha fatto ciò che ci si aspetterebbe anche dai canali di diffusione: ha collegato i segnali, fermato gli account, ricostruito la rete e reso pubblici metodo, limiti e grado di certezza dell’attribuzione.
Il paradosso rimane intatto. Abbiamo trascorso anni a domandarci come impedire all’intelligenza artificiale di produrre propaganda; ora scopriamo che può essere proprio il generatore a riconoscere i propagandisti, mentre i loro messaggi attraversano senza troppi inconvenienti le piattaforme costruite per distribuirli. Se chi scrive il contenuto artificiale riesce a vedere la rete, chi decide a quante persone mostrarlo non può continuare a comportarsi come un semplice postino distratto.