El nuevo desafío de China ante las catástrofes naturales: los vídeos falsos generados con IA
Mientras China afronta las consecuencias del tifón Noul, que tocó tierra durante el fin de semana, los funcionarios son muy conscientes de que probablemente se enfrentarán a un desafío adicional: vídeos peligrosamente engañosos creados con Inteligencia Artificial (IA). Las poderosas tormentas y los incidentes de inundaciones de los últimos meses han provocado la difusión de vídeos falsos […]
Mientras China afronta las consecuencias del tifón Noul, que tocó tierra durante el fin de semana, los funcionarios son muy conscientes de que probablemente se enfrentarán a un desafío adicional: vídeos peligrosamente engañosos creados con Inteligencia Artificial (IA).
Las poderosas tormentas y los incidentes de inundaciones de los últimos meses han provocado la difusión de vídeos falsos en las plataformas de redes sociales: incluyen imágenes de cadáveres flotando en las aguas de las inundaciones, representaciones falsas de graves inundaciones en zonas que en realidad no se han visto afectadas y otras con detalles falsos sobre las labores de respuesta a emergencias.
En algunas zonas, los vídeos con información falsa sobre cortes de electricidad hicieron que los residentes entraran en pánico y compraran suministros de emergencia.
Otros vídeos se aprovechan de acontecimientos reales.
Las inundaciones en la ciudad de Hengzhou, Guangxi, a principios de julio provocaron la fuga de cientos de serpientes de una granja de cría. Después también se difundieron imágenes falsas que mostraban cocodrilos liberados en un río.
En una situación ya de por sí tensa y peligrosa, que implica evacuaciones masivas y complejas operaciones de rescate, las autoridades quieren evitar el pánico. Ahora temen que la tecnología de IA —en la que China está invirtiendo miles de millones de dólares— esté ofreciendo herramientas sencillas y accesibles que pueden utilizarse para engañar al público.
“Muchos de estos creadores de contenido utilizan las noticias sobre catástrofes para ganar seguidores, sabiendo que el contenido más sensacionalista o exagerado obtendrá más ‘me gusta’ y más visualizaciones. Están fabricando información deliberadamente para atraer la atención de la gente”, declaró Huang Zhihua, subdirector responsable de seguridad pública en línea del Departamento de Policía de Zhejiang, a los medios estatales chinos.
En las últimas semanas ha habido detenciones y sanciones —que van desde la detención a la espera de acciones penales hasta multas— por crear noticias y contenidos de vídeo falsos. Pero los expertos advierten de que podría estar cerca una crisis de desinformación sin precedentes.

En un artículo publicado por el periódico de la Escuela Central del Partido Comunista, el profesor Chen Bin afirmó: “La IA reduce significativamente las barreras técnicas para producir información falsa. Las personas ya no necesitan conocimientos técnicos sofisticados. Con solo utilizar herramientas de IA, pueden generar rápidamente texto, imágenes, audio y vídeo convincentes… que resultan muy realistas, pero cuyo contenido es totalmente inventado y se produce a gran escala”.
El profesor Gao Fuping, de la Universidad de Ciencias Políticas y Derecho de China Oriental, dijo a la BBC que las motivaciones para publicar este tipo de contenido falso varían desde quienes lo hacen “para crear algo divertido sin pensar en las consecuencias”, hasta quienes quieren “generar tráfico para obtener beneficios personales” o quienes desean deliberadamente “provocar pánico o disturbios sociales”.
“Algunos usuarios piensan que el mundo online es anónimo y no está regulado, o que no se les puede rastrear”, dijo.
Se ha pedido que todo el contenido generado por IA lleve una marca claramente visible, pero otros usuarios podrían volver a editar el material y eliminar las marcas. El profesor Xu Xiaoke, de la Universidad Normal de Pekín, dijo a la BBC que hacen falta mayores esfuerzos para verificar las ubicaciones geográficas con marcas de tiempo y comprobar las fuentes de las imágenes.
“Sin embargo, también señalaría que la tecnología de detección sigue estando por detrás de la tecnología de generación. Estamos en un juego continuo del gato y el ratón. Por lo tanto, no debemos suponer que la tecnología por sí sola puede identificar el contenido generado por IA con un solo clic”, advirtió.

El Gobierno chino está adoptando la IA en su empeño por convertirse en la principal superpotencia tecnológica. En 2017 se anunció que la IA sería “la principal fuerza impulsora” del progreso del país.
Se están invirtiendo enormes cantidades de dinero en empresas de IA que requieren más capital, lo que está impulsando la competencia nacional. El servicio estatal de noticias Xinhua informa de que el país cuenta con más de 6.000 “empresas de IA”.
En este contexto, el profesor Xu considera que China debe construir una “infraestructura de información fiable”. Esto podría incluir sistemas oficiales de alerta temprana del Gobierno e interfaces para catástrofes a los que puedan acceder las organizaciones de noticias.
Pero ha habido casos en los que fuentes oficiales, incluidos los medios controlados por el Gobierno, han minimizado deliberadamente las catástrofes, lo que ha provocado desconfianza pública en este ámbito. A principios de julio, se pidió a periodistas locales que “suavizaran” el lenguaje empleado para describir una gran brecha en el muro de la presa de Liulan, cerca de Nanning, y la llamaran “abertura” o “espacio”.
Los funcionarios parecían intentar que la brecha sonara menos preocupante, pero las consecuencias fueron mortales. El agua que irrumpió a través de la presa dañada causó al menos 26 muertes río abajo.

Y no se trata de un hecho aislado.
En 2021, funcionarios locales fueron detenidos, acusados de ocultar o infravalorar en sus informes 139 muertes en la provincia de Henan. Incidentes como estos han creado un vacío de confianza que ha facilitado mucho a los actores malintencionados la difusión de contenido falso. Pero la policía está pidiendo a la gente que confíe en las fuentes acreditadas durante las emergencias.
“Cuando encuentren información sobre catástrofes procedente de una fuente desconocida, acérquense a ella con escepticismo y confíen en los comunicados oficiales”, dijo Gao Kai, de la Oficina de Seguridad Pública de Ningbo.
También intentó tranquilizar al público asegurando que se detendría a quienes crean información falsa, y afirmó que “internet no es una zona sin ley. Las autoridades de seguridad pública seguirán intensificando sus esfuerzos para combatir las actividades ilegales en línea”.
“Hemos creado un grupo de trabajo especializado para vigilar de cerca las redes sociales, especialmente las plataformas de vídeos cortos. Investigarán y resolverán estos casos rápidamente, y actuarán con gran firmeza”.
La pena puede ir desde una multa hasta siete años de prisión si las consecuencias de la desinformación son lo bastante graves.
El 23 de julio, la Administración del Ciberespacio de China también anunció una campaña nacional contra el contenido falso en internet relacionado con las inundaciones y otras catástrofes, y ordenó a sus delegaciones locales que se centraran en detectar datos inventados, ediciones malintencionadas, escenas escenificadas, acontecimientos históricos atribuidos erróneamente y contenidos que imitan a funcionarios. Además, instó a las plataformas de redes sociales a reforzar la revisión del contenido que publican.
El profesor Gao considera que “la respuesta es la educación pública combinada con la aplicación de la ley”, y afirmó que había que “publicar casos reales en los que se haya sancionado a personas”. Añadió que “el daño causado por el contenido falso generado por IA es, en última instancia, resultado de cómo las personas deciden utilizar la tecnología, no de la tecnología en sí”, y agregó que las leyes existentes son suficientes para abordar el problema.
Sin embargo, otros no están tan seguros. El profesor Chen señaló que “la tecnología de IA sigue evolucionando mucho más rápido que los marcos jurídicos. A medida que surgen nuevas cuestiones legales, la desinformación generada por IA sigue siendo un desafío considerable”.
El abogado Peter Pang, afincado en Shanghái y Washington, afirma que los abogados de todo el mundo están viendo un aumento explosivo del número de casos relacionados con estas cuestiones. Considera que las empresas que crean aplicaciones de IA y las plataformas utilizadas para publicar vídeos y materiales falsos deberían ser consideradas legalmente responsables junto con las personas que crean desinformación.
“La primera línea serían las plataformas, porque son las que lo hacen posible. Son las que permiten que esto salga a la luz”, dijo a la BBC.
Puso como ejemplo hipotético el caso de una persona que atropella a un peatón tras entrar en pánico por una publicación falsa en las redes sociales.
“El creador del vídeo podría decir: ‘Has atropellado a alguien. Ese es tu problema. Yo no lo hice’. Pero pensémoslo bien. Tú creaste la base a partir de la cual reaccionó la gente. Si provocaste ese pánico, debes asumir la responsabilidad de las consecuencias”.
Y el profesor Xu advierte que “es probable que la desinformación generada por IA aumente no solo en volumen, sino también en la velocidad con la que se propaga”.
“De cara al futuro, es probable que las elecciones políticas, las emergencias de salud pública, los conflictos armados, las catástrofes naturales y las cuestiones que afectan al sustento de las personas se conviertan en ámbitos de alto riesgo para la desinformación generada por IA.
“En lugar de esperar a que la información falsa se vuelva viral antes de intentar contenerla, los gobiernos y las plataformas deben prepararse desde ahora”. /BBC















