OpenAI ha segnalato all’FBI un 25enne della Florida dopo che quest’ultimo aveva scritto su ChatGPT piani dettagliati per violentare e uccidere la sua ex fidanzata.

Darren Zhou ha scritto al chatbot che avrebbe ucciso la giovane entro la fine del mese.
Secondo gli investigatori, l’ex analista di una nota banca si è rivolto a ChatGPT a marzo per parlare della fine della sua relazione durata sei mesi.

AD PLACEHOLDER

Ha raccontato della sua gelosia nei confronti degli uomini che circondavano la sua ex partner e del desiderio di tornare insieme a lei.

I messaggi si sono poi trasformati in minacce di stupro, omicidio e omicidio seguito dal suicidio.

Le sue minacce si sono estese fino a includere anche la famiglia della 21enne.

OpenAI consente ai dipendenti di esaminare le conversazioni e di avvisare le autorità quando viene rilevato un grave rischio per altre persone.

A maggio, l’FBI ha consegnato all’ufficio dello sceriffo della contea di Palm Beach le conversazioni di Zhou risalenti a due mesi.

Un agente ha valutato che i messaggi non fossero sfoghi emotivi vaghi, ma mostrassero uno schema di pianificazione.

L’ex fidanzata ha detto di averlo lasciato a causa del suo comportamento instabile, geloso e controllante.

Dopo la separazione, Zhou avrebbe iniziato a perseguitarla con telefonate, messaggi e comunicazioni minacciose sui social media.

La polizia lo ha arrestato a maggio, ma è stato rilasciato due giorni dopo dietro una cauzione di 100.000 dollari.

La procura lo ha accusato di stalking aggravato, minacce di morte per iscritto e uso illecito del telefono cellulare.

Il 13 agosto, Zhou si è dichiarato colpevole di tutte e tre le accuse e ha raggiunto un accordo che gli ha evitato il carcere.

Il tribunale lo ha condannato a otto anni di libertà vigilata e ha imposto una serie di restrizioni.