Alors que la Chine fait face aux conséquences du typhon Noul, qui a touché terre pendant le week-end, les responsables savent pertinemment qu’ils seront probablement confrontés à un défi supplémentaire : des vidéos dangereusement trompeuses générées par l’intelligence artificielle (IA).

Les violentes tempêtes et les inondations survenues ces derniers mois ont entraîné la diffusion de fausses vidéos sur les plateformes de réseaux sociaux : celles-ci montrent notamment des cadavres flottant dans les eaux de crue, de fausses représentations de graves inondations dans des zones qui n’ont en réalité pas été touchées, ainsi que de faux détails concernant les opérations d’intervention d’urgence.

AD PLACEHOLDER

Dans certaines zones, des vidéos contenant de fausses informations sur des coupures de courant ont poussé les habitants à se précipiter pour acheter des provisions d’urgence.

D’autres vidéos exploitent des événements réels.

Les inondations survenues dans la ville de Hengzhou, au Guangxi, au début du mois de juillet, ont provoqué la fuite de centaines de serpents d’un élevage. Des images fabriquées montrant des crocodiles relâchés dans une rivière ont ensuite été publiées.

Dans une situation déjà tendue et dangereuse, qui implique des évacuations massives et des opérations de sauvetage complexes, les autorités veulent éviter la panique. Elles craignent désormais que la technologie de l’IA — dans laquelle la Chine investit des milliards de dollars — ne fournisse des outils simples et accessibles susceptibles d’être utilisés pour tromper le public.

« Beaucoup de ces créateurs de contenu utilisent les informations sur les catastrophes pour gagner des abonnés, sachant que les contenus plus sensationnels ou exagérés obtiendront davantage de mentions J’aime et de vues. Ils fabriquent délibérément des informations pour attirer l’attention des gens », a déclaré Huang Zhihua, directeur adjoint chargé de la sécurité publique en ligne au département de la police du Zhejiang, aux médias d’État chinois.

Ces dernières semaines, des arrestations et des sanctions — allant de la détention dans l’attente de poursuites aux amendes — ont été prononcées pour la création de faux reportages et de contenus vidéo. Mais les experts préviennent qu’une crise de la désinformation sans précédent pourrait être imminente.

Dans un article publié par le journal de l’École centrale du Parti communiste, le professeur Chen Bin a déclaré : « L’IA abaisse considérablement les barrières techniques à la production de fausses informations. Les individus n’ont plus besoin de compétences techniques sophistiquées. En utilisant simplement des outils d’IA, ils peuvent rapidement générer du texte, des images, de l’audio et des vidéos convaincants… très réalistes, mais entièrement fabriqués, et produits à grande échelle. »

Le professeur Gao Fuping, de l’Université des sciences politiques et du droit de Chine orientale, a déclaré à la BBC que les motivations de ceux qui publient de tels faux contenus vont de ceux qui le font « pour créer quelque chose d’amusant sans penser aux conséquences » à ceux qui veulent « générer du trafic à des fins personnelles », ou encore à ceux qui cherchent délibérément à « provoquer la panique ou des troubles sociaux ».

« Certains utilisateurs pensent que le monde en ligne est anonyme et non réglementé, ou qu’ils ne peuvent pas être identifiés », a-t-il déclaré.

Certains ont demandé que tous les contenus générés par l’IA portent une mention claire, mais d’autres utilisateurs peuvent modifier les contenus pour supprimer ces indications. Le professeur Xu Xiaoke, de l’Université normale de Pékin, a déclaré à la BBC que des efforts plus importants étaient nécessaires pour vérifier les lieux géographiques à l’aide d’horodatages et contrôler les sources des images.

« Je tiens toutefois à souligner que les technologies de détection restent en retard sur les technologies de génération. Nous sommes dans un jeu du chat et de la souris permanent. Nous ne devons donc pas supposer que la technologie seule peut identifier en un seul clic les contenus générés par l’IA », a-t-il averti.

Le gouvernement chinois adopte l’IA dans sa quête pour devenir la première puissance technologique mondiale. En 2017, il a annoncé que l’IA serait le « principal moteur » du progrès du pays.

D’importantes sommes d’argent sont injectées dans les entreprises d’IA les plus gourmandes en capitaux, ce qui stimule la concurrence intérieure. L’agence de presse d’État Xinhua rapporte que le pays compte plus de 6 000 « entreprises d’IA ».

Dans ce contexte, le professeur Xu estime que la Chine doit construire une « infrastructure d’information fiable ». Cela pourrait inclure des systèmes officiels d’alerte précoce du gouvernement et des interfaces consacrées aux catastrophes, auxquelles les organes de presse pourraient accéder.

Mais il est arrivé que des sources officielles, notamment des médias contrôlés par le gouvernement, minimisent délibérément des catastrophes, ce qui a entraîné une perte de confiance du public dans ce domaine. Plus tôt en juillet, des journalistes locaux ont été invités à « adoucir » leur formulation pour décrire une importante brèche dans la digue de Liulan, près de Naning, en parlant plutôt d’une « ouverture » ou d’un « espace ».

Les responsables semblaient chercher à minimiser la gravité de la brèche, mais les conséquences ont été mortelles. L’eau qui a jailli à travers la digue rompue a fait au moins 26 morts en aval.

Et il ne s’agit pas d’un cas isolé.

En 2021, des responsables locaux ont été arrêtés, accusés d’avoir dissimulé ou sous-déclaré 139 décès dans la province du Henan. De tels incidents ont créé un vide de confiance, ce qui a grandement facilité la propagation de faux contenus par des acteurs malveillants. Mais la police exhorte les citoyens à faire confiance aux sources accréditées en cas d’urgence.

« Lorsque vous tombez sur des informations relatives à une catastrophe provenant d’une source inconnue, abordez-les avec scepticisme et fiez-vous aux annonces officielles », a déclaré Gao Kai, du Bureau de la sécurité publique de Ningbo.

Il a également tenté de rassurer le public en affirmant que les auteurs de fausses informations seraient arrêtés : « Internet n’est pas une zone de non-droit. Les autorités de sécurité publique continueront d’intensifier leurs efforts pour réprimer les activités illégales en ligne. »

« Nous avons créé un groupe de travail spécialisé chargé de surveiller de près les réseaux sociaux, en particulier les plateformes de vidéos courtes. Il enquêtera rapidement sur ces affaires et les traitera, en prenant des mesures très strictes. »

Les sanctions peuvent aller d’une amende à sept ans de prison si les conséquences de la désinformation sont suffisamment graves.

Le 23 juillet, l’Administration du cyberespace de Chine a également annoncé une campagne nationale contre les faux contenus en ligne liés aux inondations et à d’autres catastrophes. Elle a ordonné à ses antennes locales de se concentrer sur la détection des données fabriquées, des montages malveillants, des scènes mises en scène, des événements historiques attribués à tort et des contenus imitant des responsables. Elle a également appelé les plateformes de réseaux sociaux à renforcer le contrôle des contenus qu’elles publient.

Le professeur Gao estime que « la réponse consiste à associer l’éducation du public à l’application de la loi », ajoutant qu’il était « nécessaire de rendre publics des cas réels dans lesquels des personnes ont été sanctionnées ». Il a ajouté que « les dommages causés par les faux contenus générés par l’IA résultent en définitive de la manière dont les gens choisissent d’utiliser la technologie — et non de la technologie elle-même », et que les lois existantes suffisent à traiter le problème.

D’autres ne sont toutefois pas aussi convaincus. Le professeur Chen a souligné que « la technologie de l’IA continue d’évoluer bien plus rapidement que les cadres juridiques. À mesure que de nouvelles questions juridiques se posent, la désinformation générée par l’IA demeure un défi majeur ».

Peter Pang, avocat basé à Shanghai et à Washington, affirme que les avocats du monde entier constatent une explosion du nombre d’affaires portant sur ces questions. Il estime que les entreprises qui créent des applications d’IA et les plateformes utilisées pour publier de fausses vidéos et d’autres contenus devraient être tenues légalement responsables, au même titre que les personnes qui produisent la désinformation.

« La première ligne de responsabilité serait celle des plateformes, car ce sont elles qui rendent cela possible. Ce sont elles qui permettent à ces contenus de voir le jour », a-t-il déclaré à la BBC.

Il a donné l’exemple hypothétique d’une personne qui renverse un piéton après avoir paniqué à cause d’une fausse publication sur les réseaux sociaux.

« Le créateur de la vidéo pourrait dire : “Tu as renversé quelqu’un. C’est ton problème. Ce n’est pas moi qui l’ai fait.” Mais réfléchissons-y. Vous avez créé la base à partir de laquelle les gens ont réagi. Si vous avez provoqué cette panique, vous devez assumer la responsabilité des conséquences. »

Le professeur Xu avertit que « la désinformation générée par l’IA va probablement augmenter, non seulement en volume, mais aussi en vitesse de propagation ».

« À l’avenir, les élections politiques, les urgences de santé publique, les conflits armés, les catastrophes naturelles et les questions qui touchent aux moyens de subsistance des gens risquent de devenir des domaines à haut risque de désinformation générée par l’IA.

« Au lieu d’attendre que les fausses informations deviennent virales avant d’essayer de les contenir, les gouvernements et les plateformes doivent dès maintenant se préparer en amont. » /BBC