Während China mit den Folgen des Taifuns Noul zu kämpfen hat, der am Wochenende auf Land traf, dürfte den Behörden sehr bewusst sein, dass sie wahrscheinlich vor einer zusätzlichen Herausforderung stehen: gefährlich irreführenden Videos, die mit Künstlicher Intelligenz (KI) erstellt wurden.

Heftige Stürme und Überschwemmungen in den vergangenen Monaten haben dazu geführt, dass gefälschte Videos die Social-Media-Plattformen überschwemmen – darunter Bilder von Leichen, die in Hochwasser treiben, gefälschte Darstellungen schwerer Überschwemmungen in Gebieten, die tatsächlich nicht betroffen waren, und weitere mit erfundenen Details zu Rettungsmaßnahmen.

AD PLACEHOLDER

In einigen Gebieten lösten Videos mit falschen Informationen über Stromausfälle Panikkäufe von Notvorräten durch die Bewohner aus.

Andere Videos greifen reale Ereignisse auf.

Überschwemmungen in der Stadt Hengzhou in Guangxi Anfang Juli führten dazu, dass Hunderte Schlangen aus einer Zuchtfarm entkamen. Anschließend wurden auch gefälschte Bilder veröffentlicht, die zeigten, wie Krokodile in einen Fluss freigelassen wurden.

In einer ohnehin angespannten und gefährlichen Situation, die Massenevakuierungen und komplexe Rettungsaktionen mit sich bringt, wollen die Behörden Panik vermeiden. Nun befürchten sie, dass die KI-Technologie – in die China Milliarden von Dollar investiert – einfache und leicht zugängliche Werkzeuge bereitstellt, mit denen die Öffentlichkeit getäuscht werden kann.

„Viele dieser Content-Ersteller nutzen Katastrophennachrichten, um Follower zu gewinnen, denn sie wissen, dass sensationellere oder übertriebene Inhalte mehr Likes und Aufrufe erhalten. Sie erfinden absichtlich Informationen, um die Aufmerksamkeit der Menschen zu erregen“, sagte Huang Zhihua, stellvertretender Leiter für öffentliche Online-Sicherheit bei der Polizeibehörde von Zhejiang, gegenüber chinesischen Staatsmedien.

In den vergangenen Wochen kam es zu Festnahmen und Sanktionen – von Untersuchungshaft bis hin zu Geldstrafen – wegen der Erstellung gefälschter Berichte und Videoinhalte. Experten warnen jedoch, dass eine beispiellose Desinformationskrise bevorstehen könnte.

In einem Artikel, der von der Zeitung der Zentralschule der Kommunistischen Partei veröffentlicht wurde, sagte Professor Chen Bin: „KI senkt die technischen Hürden für die Produktion falscher Informationen erheblich. Einzelpersonen brauchen keine ausgefeilten technischen Fähigkeiten mehr. Mit einfachen KI-Werkzeugen können sie schnell überzeugende Texte, Bilder, Audio- und Videoinhalte erzeugen … die sehr realistisch, aber vollständig erfunden sind und in großem Umfang produziert werden.“

Professor Gao Fuping von der Ostchinesischen Universität für Politikwissenschaft und Recht sagte der BBC, die Motive für die Veröffentlichung solcher falschen Inhalte reichten von Personen, die „etwas Unterhaltsames schaffen wollen, ohne über die Folgen nachzudenken“, bis hin zu solchen, die „für den eigenen Vorteil Reichweite erzeugen“ oder absichtlich „Panik oder soziale Unruhen auslösen“ wollten.

„Manche Nutzer glauben, die Online-Welt sei anonym und unreguliert oder sie könnten nicht zurückverfolgt werden“, sagte er.

Es wurde gefordert, alle KI-generierten Inhalte eindeutig zu kennzeichnen, doch andere Nutzer können das Material erneut bearbeiten und die Kennzeichnungen entfernen. Professor Xu Xiaoke von der Beijing Normal University sagte der BBC, es seien größere Anstrengungen erforderlich, um geografische Orte anhand von Zeitstempeln zu überprüfen und die Quellen von Bildern zu kontrollieren.

„Ich möchte jedoch auch betonen, dass die Erkennungstechnologie der Technologie zur Erzeugung von Inhalten noch immer hinterherhinkt. Wir befinden uns in einem ständigen Katz-und-Maus-Spiel. Deshalb sollten wir nicht davon ausgehen, dass allein die Technologie KI-generierte Inhalte mit einem einzigen Klick erkennen kann“, warnte er.

Die chinesische Regierung setzt auf KI, um sich zur führenden technologischen Supermacht zu entwickeln. 2017 wurde angekündigt, dass KI die „wichtigste treibende Kraft“ für den Fortschritt des Landes sein werde.

Große Geldsummen fließen in KI-Unternehmen, die viel Kapital benötigen, und heizen den Wettbewerb im Inland an. Der staatliche Nachrichtendienst Xinhua berichtet, dass es im Land mehr als 6.000 „KI-Unternehmen“ gibt.

In diesem Klima ist Prof. Xu der Ansicht, China müsse eine „vertrauenswürdige Informationsinfrastruktur“ aufbauen. Dazu könnten offizielle staatliche Frühwarnsysteme und Katastrophenschnittstellen gehören, auf die Nachrichtenorganisationen zugreifen können.

Es gab jedoch Fälle, in denen offizielle Quellen, darunter staatlich kontrollierte Medien, Katastrophen absichtlich heruntergespielt haben, was in diesem Bereich zu öffentlichem Misstrauen geführt hat. Anfang Juli wurden lokale Journalisten aufgefordert, ihre Wortwahl zu „mildern“ und einen großen Riss in der Liulan-Staumauer nahe Nanning als „Öffnung“ oder „Lücke“ zu beschreiben.

Die Behörden schienen zu versuchen, den Schaden weniger besorgniserregend erscheinen zu lassen, doch die Folgen waren tödlich. Das Wasser, das durch den gebrochenen Damm strömte, forderte flussabwärts mindestens 26 Todesopfer.

Und dies ist kein Einzelfall.

2021 wurden lokale Beamte festgenommen, denen vorgeworfen wurde, 139 Todesfälle in der Provinz Henan vertuscht oder zu niedrig angegeben zu haben. Solche Vorfälle haben ein Vertrauensvakuum geschaffen, das es böswilligen Akteuren erheblich erleichtert hat, falsche Inhalte zu verbreiten. Die Polizei appelliert jedoch an die Menschen, sich in Notfällen auf akkreditierte Quellen zu verlassen.

„Wenn Sie auf Informationen zu Katastrophen aus einer unbekannten Quelle stoßen, begegnen Sie ihnen mit Skepsis und verlassen Sie sich auf offizielle Mitteilungen“, sagte Gao Kai vom Amt für öffentliche Sicherheit in Ningbo.

Er versuchte außerdem, die Öffentlichkeit zu beruhigen und erklärte, dass die Urheber falscher Informationen gefasst würden. „Das Internet ist kein rechtsfreier Raum. Die Behörden für öffentliche Sicherheit werden ihre Bemühungen zur Bekämpfung illegaler Online-Aktivitäten weiter verstärken.“

„Wir haben eine spezialisierte Arbeitsgruppe eingerichtet, die soziale Netzwerke genau überwacht, insbesondere Kurzvideoplattformen. Sie wird diese Fälle rasch untersuchen und bearbeiten und konsequent dagegen vorgehen.“

Die Strafe kann von einer Geldbuße bis zu sieben Jahren Gefängnis reichen, wenn die Folgen der Desinformation schwerwiegend genug sind.

Am 23. Juli kündigte die chinesische Cyberspace-Verwaltung außerdem eine landesweite Kampagne gegen gefälschte Online-Inhalte zu Überschwemmungen und anderen Katastrophen an. Die lokalen Behörden wurden angewiesen, sich auf die Aufdeckung erfundener Daten, böswilliger Bearbeitungen, inszenierter Szenen, falsch zugeordneter historischer Ereignisse und der Nachahmung von Amtsträgern zu konzentrieren. Darüber hinaus rief sie die Social-Media-Plattformen dazu auf, die Prüfung der von ihnen veröffentlichten Inhalte zu verstärken.

Prof. Gao ist überzeugt, dass „die Lösung in öffentlicher Aufklärung in Verbindung mit der Durchsetzung des Rechts liegt“. Es sei „notwendig, konkrete Fälle zu veröffentlichen, in denen Menschen bestraft wurden“. Er fügte hinzu, „der Schaden, der durch KI-generierte Falschinformationen entsteht, ist letztlich eine Folge davon, wie Menschen die Technologie zu nutzen beschließen – nicht der Technologie selbst“, und ergänzte, dass die bestehenden Gesetze ausreichten, um dem Problem zu begegnen.

Andere sind sich jedoch nicht so sicher. Professor Chen betonte: „Die KI-Technologie entwickelt sich weiterhin viel schneller als die rechtlichen Rahmenbedingungen. Während neue Rechtsfragen entstehen, bleibt KI-Desinformation eine erhebliche Herausforderung.“

Der in Shanghai und Washington tätige Anwalt Peter Pang sagt, Anwälte weltweit beobachteten einen starken Anstieg der Zahl von Fällen, in denen sie sich mit diesen Fragen befassen. Er ist der Ansicht, dass Unternehmen, die KI-Anwendungen entwickeln, und Plattformen, über die gefälschte Videos und Materialien veröffentlicht werden, gemeinsam mit den Urhebern von Desinformation rechtlich zur Verantwortung gezogen werden sollten.

„An erster Stelle stünden die Plattformen, denn sie ermöglichen das Ganze. Sie sind es, die dafür sorgen, dass so etwas ans Licht kommt“, sagte er der BBC.

Als hypothetisches Beispiel nannte er eine Person, die einen Fußgänger anfährt, nachdem ein falscher Social-Media-Beitrag Panik ausgelöst hat.

„Der Ersteller des Videos könnte sagen: ‚Du hast jemanden angefahren. Das ist dein Problem. Ich war es nicht.‘ Aber denken wir darüber nach. Sie haben die Grundlage geschaffen, auf deren Basis Menschen reagierten. Wenn Sie diese Panik ausgelöst haben, müssen Sie die Verantwortung für die daraus entstehenden Folgen übernehmen.“

Und Professor Xu warnt, dass „KI-generierte Desinformation wahrscheinlich nicht nur mengenmäßig, sondern auch hinsichtlich der Geschwindigkeit ihrer Verbreitung zunehmen wird“.

„Mit Blick auf die Zukunft dürften politische Wahlen, Notlagen im Bereich der öffentlichen Gesundheit, bewaffnete Konflikte, Naturkatastrophen und Fragen, die den Lebensunterhalt der Menschen betreffen, zu Hochrisikobereichen für KI-generierte Desinformation werden.

„Anstatt abzuwarten, bis Falschinformationen viral gehen, bevor sie versuchen, sie einzudämmen, müssen sich Regierungen und Plattformen jetzt im Voraus darauf vorbereiten.“ /BBC