OpenAI afferma che la sua intelligenza artificiale fuori controllo ha tentato di hackerare altre aziende
OpenAI ha rivelato che un attacco informatico condotto da agenti ribelli di ChatGPT è andato oltre una singola azienda, ha riferito la BBC. Si riteneva che Hugging Face fosse l’unica vittima dell’attacco hacker senza precedenti, ma ora OpenAI ammette che il suo bot ha attaccato diversi «servizi pubblicamente accessibili». L’IA fuori controllo ha trovato quattro accessi […]
OpenAI ha rivelato che un attacco informatico condotto da agenti ribelli di ChatGPT è andato oltre una singola azienda, ha riferito la BBC.
Si riteneva che Hugging Face fosse l’unica vittima dell’attacco hacker senza precedenti, ma ora OpenAI ammette che il suo bot ha attaccato diversi «servizi pubblicamente accessibili».
L’IA fuori controllo ha trovato quattro accessi online che le hanno consentito di entrare in quattro servizi distinti e non identificati.
Nel frattempo, durante un incontro d’emergenza con centinaia di professionisti della sicurezza informatica, Hugging Face ha descritto cosa significasse trovarsi dalla parte di chi subisce il primo attacco al mondo condotto da un’IA completamente autonoma.
L’azienda ha descritto come l’IA operasse a velocità sovrumane, ma prendesse anche decisioni e commettesse errori bizzarri che nessun hacker umano avrebbe commesso.
Hugging Face, che è una sorta di app store per gli strumenti di IA, ha affermato che gli agenti hacker hanno lavorato senza sosta, testando simultaneamente migliaia di metodi diversi.
L’azienda ha scoperto per la prima volta di essere stata hackerata da qualcuno che utilizzava una potente IA autonoma il 16 luglio e ha denunciato l’accaduto alla polizia.
Quasi una settimana dopo, OpenAI ha ammesso che era stata la sua intelligenza artificiale a evadere da un ambiente chiuso e ad attaccare direttamente Hugging Face durante un test.
Comportamenti maldestri
Martedì, l’organismo di settore Cloud Security Alliance (CSA) ha pubblicato un rapporto basato sull’incontro d’emergenza con Hugging Face di venerdì, che la stessa Hugging Face ha esaminato.
«Gli agenti hanno seguito percorsi inefficienti e mostrato comportamenti maldestri che nessun essere umano avrebbe scelto», ha scritto la CSA.
Gli agenti hanno ripetuto azioni già completate, segno di un’intelligenza artificiale agentica che stava perdendo il filo e il contesto.















