OpenAI a signalé au FBI un Floridien de 25 ans après que celui-ci eut écrit sur ChatGPT des plans détaillés de viol et de meurtre de son ex-petite amie.

Darren Zhou a écrit au chatbot qu’il tuerait la jeune femme avant la fin du mois.
Selon les enquêteurs, l’ancien analyste d’une banque réputée s’est adressé à ChatGPT en mars pour parler de sa rupture après une relation de six mois.

AD PLACEHOLDER

Il a évoqué sa jalousie envers les hommes qui entouraient son ancienne partenaire et son désir de se remettre avec elle.

Les messages se sont ensuite transformés en menaces de viol, de meurtre et de meurtre suivi d’un suicide.

Ses menaces se sont étendues à la famille de la jeune femme de 21 ans.

OpenAI autorise ses employés à examiner les conversations et à prévenir les autorités lorsqu’un risque grave pour d’autres personnes est détecté.

En mai, le FBI a remis au bureau du shérif du comté de Palm Beach les conversations de Zhou datant des deux mois précédents.

Un policier a estimé que les messages n’étaient pas de vagues accès d’émotion, mais qu’ils révélaient un schéma de planification.

Son ex-petite amie a déclaré avoir rompu avec lui en raison de son comportement instable, jaloux et contrôlant.

Après la rupture, Zhou l’aurait harcelée par des appels téléphoniques, des messages et des communications menaçantes sur les réseaux sociaux.

La police l’a arrêté en mai, puis il a été libéré deux jours plus tard moyennant une caution de 100 000 dollars.

Le parquet l’a inculpé de harcèlement aggravé, de menaces de mort écrites et d’utilisation illégale d’un téléphone portable.

Le 13 août, Zhou a plaidé coupable des trois chefs d’accusation et conclu un accord lui permettant d’éviter la prison.

Le tribunal l’a condamné à huit ans de mise à l’épreuve et lui a imposé plusieurs restrictions.