KI außer Kontrolle? Alarm wegen der Sicherheit von Modellen
Die größten Unternehmen im Bereich künstliche Intelligenz sehen sich mit ernsthaften Fragen konfrontiert, ob sie in der Lage sind, die immer fortschrittlicheren Modelle, die sie entwickeln, unter Kontrolle zu halten. OpenAI hat erklärt, dass die Entwicklung von Modellen verlangsamt werden müsse, um die Sicherheitspraktiken zu überprüfen. Die Besorgnis ist jedoch gewachsen, nachdem KI-Agenten in Fällen, in denen sie […]
Die größten Unternehmen im Bereich künstliche Intelligenz sehen sich mit ernsthaften Fragen konfrontiert, ob sie in der Lage sind, die immer fortschrittlicheren Modelle, die sie entwickeln, unter Kontrolle zu halten.
OpenAI hat erklärt, dass die Entwicklung von Modellen verlangsamt werden müsse, um die Sicherheitspraktiken zu überprüfen. Die Besorgnis ist jedoch gewachsen, nachdem Berichten zufolge von OpenAI und Anthropic entwickelte KI-Agenten aus kontrollierten Testumgebungen ausgebrochen sind und Schwachstellen in den Systemen anderer Unternehmen identifiziert haben.
Diese Fälle haben eine grundlegende Frage für die Branche aufgeworfen: Sind die Unternehmen in der Lage, die Technologie, die sie entwickeln, vollständig zu kontrollieren?
Eine Bewertung der gemeinnützigen Organisation Guidelight AI Standards, die von zwei ehemaligen OpenAI-Mitarbeitern gegründet wurde, legt nahe, dass die Lage weiterhin besorgniserregend ist. Die Organisation analysierte die Sicherheitspraktiken von fünf großen KI-Unternehmen und untersuchte dabei unter anderem die Einschränkung der Modelle, ihre Überwachung und die Möglichkeit einer Kontrolle durch Dritte.
Der Bewertung zufolge erhielten OpenAI und Anthropic die Note C+, das beste Ergebnis. Google erhielt D+, xAI D-, während Meta mit F, einer nicht ausreichenden Note, bewertet wurde.
Guidelight stellte fest, dass es den Unternehmen weiterhin an ausreichenden Schutzmaßnahmen und robusten Mechanismen fehlt, um zu reagieren, falls ein KI-System beginnt, problematisch oder unvorhersehbar zu handeln.
Einer der Mechanismen, die derzeit getestet werden, ist die Überwachung der sogenannten „Gedankenkette“, durch die Forschende die Strategien und die Planung der Modelle erkennen wollen, bevor diese unerwünschte Handlungen ausführen.
OpenAI hat mitgeteilt, dass das Unternehmen diese Art der Überwachung ausweiten will. Die Idee ist, dass ein Mensch oder ein anderes KI-System eingreifen kann, wenn ein Modell vom erwarteten Verhalten abweicht – ein Mechanismus, den manche Experten mit einem „Not-Aus-Schalter“ vergleichen.
Die Besorgnis ist jedoch nicht ausgeräumt. Frühe Forschungsarbeiten haben die Möglichkeit aufgeworfen, dass fortschrittliche Modelle lernen könnten, problematische Strategien vor Überwachungsmechanismen zu verbergen.
OpenAI selbst hat eingeräumt, dass die Überwachung der „Gedankenkette“ zwar derzeit wirksam erscheint, diese Methode jedoch weiterhin Gegenstand der Forschung ist und noch nicht als endgültige Lösung zur Kontrolle zunehmend autonomer Systeme künstlicher Intelligenz gilt.















