Mentre la Cina affronta le conseguenze del tifone Noul, che ha toccato terra durante il fine settimana, i funzionari saranno ben consapevoli che con ogni probabilità dovranno affrontare un’ulteriore sfida: video pericolosamente ingannevoli creati con l’Intelligenza Artificiale (IA).

Le potenti tempeste e gli episodi di inondazione degli ultimi mesi hanno portato alla diffusione di video falsi sulle piattaforme dei social media: tra questi figurano immagini di cadaveri che galleggiano nelle acque alluvionali, rappresentazioni false di gravi inondazioni in zone che in realtà non sono state colpite e altre con dettagli inventati sulle operazioni di risposta alle emergenze.

AD PLACEHOLDER

In alcune zone, i video contenenti informazioni false sulle interruzioni di corrente hanno indotto i residenti a farsi prendere dal panico e ad acquistare scorte di emergenza.

Altri video sfruttano eventi reali.

Le inondazioni nella città di Hengzhou, nel Guangxi, all’inizio di luglio hanno causato la fuga di centinaia di serpenti da un allevamento. In seguito sono state diffuse anche immagini false che mostravano coccodrilli liberati in un fiume.

In una situazione già tesa e pericolosa, che comporta evacuazioni di massa e complesse operazioni di soccorso, le autorità vogliono evitare il panico. Ora temono che la tecnologia dell’IA — in cui la Cina sta investendo miliardi di dollari — stia fornendo strumenti semplici e accessibili, utilizzabili per ingannare il pubblico.

«Molti di questi creatori di contenuti usano le notizie sulle catastrofi per guadagnare follower, sapendo che i contenuti più sensazionalistici o esagerati riceveranno più “mi piace” e più visualizzazioni. Stanno fabbricando deliberatamente informazioni per attirare l’attenzione delle persone», ha dichiarato Huang Zhihua, vicedirettore responsabile della sicurezza pubblica online presso il Dipartimento di Polizia dello Zhejiang, ai media statali cinesi.

Nelle ultime settimane ci sono stati arresti e sanzioni — che vanno dalla detenzione in attesa di procedimenti penali alle multe — per la creazione di notizie e contenuti video falsi. Ma gli esperti avvertono che potrebbe essere imminente una crisi di disinformazione senza precedenti.

In un articolo pubblicato dal giornale della Scuola centrale del Partito comunista, il professor Chen Bin ha affermato: «L’IA abbassa notevolmente le barriere tecniche alla produzione di informazioni false. Gli individui non hanno più bisogno di competenze tecniche sofisticate. Basta usare strumenti di IA per generare rapidamente testo, immagini, audio e video convincenti… molto realistici, ma interamente fabbricati e prodotti su larga scala».

Il professor Gao Fuping, dell’Università di Scienze politiche e Giurisprudenza della Cina orientale, ha dichiarato alla BBC che le motivazioni alla base della pubblicazione di tali contenuti falsi vanno da chi lo fa «per creare qualcosa di divertente senza pensare alle conseguenze» a chi vuole «generare traffico per un tornaconto personale» o a chi intende deliberatamente «provocare panico o disordini sociali».

«Alcuni utenti pensano che il mondo online sia anonimo e privo di regole, o che non sia possibile rintracciarli», ha detto.

È stato chiesto che tutti i contenuti generati dall’IA siano chiaramente contrassegnati, ma altri utenti possono modificare il materiale rimuovendo le indicazioni. Il professor Xu Xiaoke dell’Università Normale di Pechino ha dichiarato alla BBC che servono maggiori sforzi per verificare le posizioni geografiche e i timestamp, nonché per controllare le fonti delle immagini.

«Tuttavia, sottolineerei anche che le tecnologie di rilevamento sono ancora in ritardo rispetto a quelle di generazione. Siamo in una continua partita a guardie e ladri. Perciò non dobbiamo presumere che la tecnologia, da sola, possa identificare i contenuti generati dall’IA con un semplice clic», ha avvertito.

Il governo cinese sta abbracciando l’IA nel tentativo di diventare la principale superpotenza tecnologica. Nel 2017 è stato annunciato che l’IA sarebbe stata «la principale forza trainante» del progresso del Paese.

Ingenti somme di denaro vengono investite nelle aziende di IA che richiedono più capitali, alimentando la concorrenza interna. L’agenzia di stampa statale Xinhua riferisce che il Paese conta oltre 6.000 «aziende di IA».

In questo contesto, il professor Xu ritiene che la Cina debba costruire «un’infrastruttura informativa affidabile». Questa potrebbe includere sistemi ufficiali governativi di allerta precoce e interfacce per le catastrofi a cui le organizzazioni giornalistiche possano accedere.

Ma ci sono stati casi in cui fonti ufficiali, compresi i media controllati dal governo, hanno deliberatamente minimizzato le catastrofi, provocando sfiducia pubblica in questo ambito. All’inizio di luglio, ai giornalisti locali è stato chiesto di «ammorbidire» il linguaggio usato per descrivere una grande breccia nel muro della diga di Liulan, vicino a Naning, definendola un’«apertura» o una «fessura».

I funzionari sembravano cercare di far apparire la breccia meno preoccupante, ma le conseguenze sono state letali. L’acqua che è passata attraverso la diga danneggiata ha causato almeno 26 morti a valle.

E non si tratta di un caso isolato.

Nel 2021, funzionari locali sono stati arrestati con l’accusa di aver nascosto o sottostimato 139 decessi nella provincia di Henan. Episodi del genere hanno creato un vuoto di fiducia, rendendo molto più facile per i malintenzionati diffondere contenuti falsi. La polizia, però, esorta le persone a fidarsi delle fonti accreditate durante le emergenze.

«Quando vi imbattete in informazioni relative a una catastrofe provenienti da una fonte sconosciuta, affrontatele con scetticismo e affidatevi agli avvisi ufficiali», ha dichiarato Gao Kai dell’Ufficio di pubblica sicurezza di Ningbo.

Ha inoltre cercato di rassicurare il pubblico, affermando che chi crea informazioni false verrà identificato: «Internet non è una zona franca. Le autorità di pubblica sicurezza continueranno a intensificare gli sforzi per reprimere le attività illegali online».

«Abbiamo istituito un gruppo di lavoro specializzato per monitorare da vicino i social media, in particolare le piattaforme di video brevi. Indagheranno su questi casi e li gestiranno rapidamente, adottando misure molto severe».

La pena può variare da una multa fino a sette anni di carcere, se le conseguenze della disinformazione sono abbastanza gravi.

Il 23 luglio, l’Amministrazione cinese del cyberspazio ha inoltre annunciato una campagna nazionale contro i contenuti falsi online relativi alle inondazioni e ad altre catastrofi, ordinando alle sedi locali di concentrarsi sull’individuazione di dati fabbricati, modifiche dolose, scene inscenate, eventi storici attribuiti erroneamente e contenuti che imitano i funzionari. Inoltre, ha invitato le piattaforme dei social media a rafforzare la revisione dei contenuti che pubblicano.

Il professor Gao ritiene che «la risposta sia l’educazione del pubblico abbinata all’applicazione della legge», affermando che «è necessario rendere pubblici i casi reali in cui le persone sono state punite». Ha aggiunto che «il danno causato dai contenuti falsi generati dall’IA è, in ultima analisi, il risultato del modo in cui le persone scelgono di usare la tecnologia, non della tecnologia in sé», aggiungendo che le leggi esistenti sono sufficienti per affrontare il problema.

Altri, tuttavia, non sono altrettanto sicuri. Il professor Chen ha sottolineato che «la tecnologia dell’IA continua a evolversi molto più rapidamente dei quadri giuridici. Mentre emergono nuove questioni legali, la disinformazione generata dall’IA resta una sfida considerevole».

L’avvocato Peter Pang, che opera a Shanghai e Washington, afferma che gli avvocati di tutto il mondo stanno assistendo a un’esplosione del numero di casi che riguardano queste questioni. Ritiene che le aziende che creano applicazioni di IA e le piattaforme utilizzate per pubblicare video e materiali falsi debbano essere ritenute legalmente responsabili insieme alle persone che creano disinformazione.

«La prima linea di responsabilità sarebbero le piattaforme, perché sono loro a rendere tutto questo possibile. Sono loro a permettere che venga diffuso», ha dichiarato alla BBC.

Ha fatto l’esempio ipotetico di una persona che investe un pedone dopo essere stata presa dal panico a causa di un post falso sui social media.

«Il creatore del video potrebbe dire: “Hai investito qualcuno. È un problema tuo. Non l’ho fatto io”. Ma riflettiamoci bene. Hai creato la base che ha indotto le persone a reagire. Se hai creato quel panico, devi assumerti la responsabilità delle conseguenze».

E il professor Xu avverte che «è probabile che la disinformazione generata dall’IA aumenti non solo in volume, ma anche nella velocità con cui si diffonde».

«Guardando al futuro, le elezioni politiche, le emergenze sanitarie, i conflitti armati, le catastrofi naturali e le questioni che incidono sui mezzi di sussistenza delle persone diventeranno probabilmente aree ad alto rischio per la disinformazione generata dall’IA.

«Invece di aspettare che le informazioni false diventino virali prima di cercare di contenerle, i governi e le piattaforme devono prepararsi fin da ora». /BBC