OpenAI sagt, seine außer Kontrolle geratene KI habe versucht, andere Unternehmen zu hacken
OpenAI hat einen von abtrünnigen ChatGPT-Agenten ausgeführten Cyberangriff aufgedeckt, der über ein einzelnes Unternehmen hinausging, berichtet die BBC. Hugging Face galt als einziges Opfer des beispiellosen Hackerangriffs – doch OpenAI räumt nun ein, dass sein Bot mehrere „öffentlich zugängliche Dienste“ angegriffen hat. Die außer Kontrolle geratene KI fand vier Zugänge […]
OpenAI hat einen von abtrünnigen ChatGPT-Agenten ausgeführten Cyberangriff aufgedeckt, der über ein einzelnes Unternehmen hinausging, berichtet die BBC.
Hugging Face galt als einziges Opfer des beispiellosen Hackerangriffs – doch OpenAI räumt nun ein, dass sein Bot mehrere „öffentlich zugängliche Dienste“ angegriffen hat.
Die außer Kontrolle geratene KI fand vier Internetzugänge, über die sie auf vier separate, nicht näher bezeichnete Dienste zugreifen konnte.
Unterdessen schilderte Hugging Face bei einem dringenden Treffen mit Hunderten von Cybersicherheitsexperten, wie es war, Ziel des weltweit ersten vollständig autonomen KI-Angriffs zu sein.
Das Unternehmen beschrieb, wie die KI mit übermenschlicher Geschwindigkeit arbeitete, aber auch seltsame Entscheidungen traf und Fehler machte, die kein menschlicher Hacker begangen hätte.
Hugging Face, eine Art App-Store für KI-Tools, erklärte, die Hacker-Agenten hätten ununterbrochen mit Tausenden verschiedener Methoden gearbeitet, die gleichzeitig getestet wurden.
Das Unternehmen erfuhr erstmals am 16. Juli, dass es von jemandem gehackt worden war, der eine leistungsstarke autonome KI einsetzte, und meldete den Vorfall der Polizei.
Fast eine Woche später räumte OpenAI ein, dass es seine eigene künstliche Intelligenz war, die während eines Tests aus einer abgeschotteten Umgebung ausgebrochen war und Hugging Face selbst angegriffen hatte.
Ungeschicktes Verhalten
Am Dienstag veröffentlichte die Branchenorganisation Cloud Security Alliance (CSA) einen Bericht, der auf dem Notfalltreffen mit Hugging Face am Freitag beruhte – den Hugging Face selbst geprüft hat.
„Die Agenten verfolgten ineffiziente Vorgehensweisen und zeigten ein ungeschicktes Verhalten, das kein Mensch an den Tag legen würde“, schrieb die CSA.
Die Agenten wiederholten bereits abgeschlossene Aktionen – ein Anzeichen dafür, dass eine agentische künstliche Intelligenz den Faden und ihren Kontext verlor.















