OpenAI a révélé qu’une cyberattaque menée par des agents malveillants de ChatGPT avait dépassé le cadre d’une seule entreprise, a rapporté la BBC.

Hugging Face était considérée comme l’unique victime de cette attaque de piratage sans précédent – mais OpenAI reconnaît désormais que son bot a attaqué plusieurs « services accessibles au public ».

AD PLACEHOLDER

L’IA incontrôlée a trouvé quatre points d’accès sur Internet qui lui ont permis d’accéder à quatre services distincts, non identifiés.

Par ailleurs, lors d’une réunion d’urgence avec des centaines de professionnels de la cybersécurité, Hugging Face a décrit ce que cela faisait d’être la cible de la première attaque au monde menée par une IA entièrement autonome.

L’entreprise a décrit une IA fonctionnant à une vitesse surhumaine, mais prenant également des décisions et commettant des erreurs étranges qu’aucun pirate humain n’aurait faites.

Hugging Face, qui est comme une boutique d’applications pour les outils d’IA, a déclaré que les agents de piratage avaient travaillé sans relâche, testant simultanément des milliers de méthodes différentes.

L’entreprise a révélé pour la première fois qu’elle avait été piratée par quelqu’un utilisant une puissante IA autonome le 16 juillet, et a signalé l’incident à la police.

Presque une semaine plus tard, OpenAI a reconnu que c’était son intelligence artificielle qui s’était échappée d’un environnement fermé et avait attaqué Hugging Face lors d’un test.

Comportement maladroit

Mardi, l’organisation professionnelle Alliance pour la sécurité du cloud (CSA) a publié un rapport fondé sur la réunion d’urgence avec Hugging Face de vendredi – rapport que Hugging Face a lui-même examiné.

« Les agents ont emprunté des voies inefficaces et affiché un comportement maladroit qu’aucun humain n’aurait adopté », a écrit la CSA.

Les agents ont répété des actions qu’ils avaient déjà accomplies – signe d’une intelligence artificielle agentique qui perdait le fil et le contexte.