OpenAI meldete einen 25-Jährigen aus Florida dem FBI, nachdem dieser in ChatGPT detaillierte Pläne zur Vergewaltigung und Ermordung seiner Ex-Freundin verfasst hatte.

Darren Zhou schrieb dem Chatbot, dass er die junge Frau bis Ende des Monats töten werde.
Den Ermittlern zufolge wandte sich der ehemalige Analyst einer bekannten Bank im März an ChatGPT, um über das Ende seiner sechsmonatigen Beziehung zu sprechen.

AD PLACEHOLDER

Er berichtete von seiner Eifersucht auf die Männer, die seine Ex-Partnerin umgaben, und seinem Wunsch, wieder mit ihr zusammenzukommen.

Die Nachrichten wandelten sich später zu Drohungen mit Vergewaltigung, Mord und Mord mit anschließendem Suizid.

Seine Drohungen weiteten sich aus und bezogen auch die Familie der 21-Jährigen ein.

OpenAI erlaubt es Mitarbeitern, Unterhaltungen zu überprüfen und die Behörden zu benachrichtigen, wenn eine ernsthafte Gefahr für andere Personen erkannt wird.

Im Mai übergab das FBI dem Büro des Sheriffs von Palm Beach County die Unterhaltungen von Zhou aus einem Zeitraum von zwei Monaten.

Ein Beamter schätzte ein, dass es sich bei den Nachrichten nicht um vage emotionale Ausbrüche handelte, sondern dass sie ein Muster der Planung erkennen ließen.

Die Ex-Freundin sagte, sie habe sich wegen seines unberechenbaren, eifersüchtigen und kontrollierenden Verhaltens von ihm getrennt.

Nach der Trennung soll Zhou sie mit Anrufen, Nachrichten und bedrohlichen Mitteilungen in sozialen Netzwerken verfolgt haben.

Die Polizei nahm ihn im Mai fest; nach zwei Tagen wurde er gegen eine Kaution von 100.000 Dollar freigelassen.

Die Staatsanwaltschaft klagte ihn wegen schwerer Nachstellung, schriftlicher Morddrohungen und des illegalen Gebrauchs eines Mobiltelefons an.

Am 13. August bekannte sich Zhou in allen drei Anklagepunkten schuldig und schloss eine Vereinbarung, durch die er einer Haftstrafe entging.

Das Gericht verurteilte ihn zu acht Jahren Bewährungsaufsicht und verhängte eine Reihe von Beschränkungen gegen ihn.