OpenAI dice que su inteligencia artificial descontrolada intentó piratear otras empresas
OpenAI ha revelado que un ciberataque llevado a cabo por agentes maliciosos de ChatGPT fue más allá de una sola empresa, según informó la BBC. Se creía que Hugging Face era la única víctima del ataque de piratería sin precedentes, pero OpenAI reconoce ahora que su bot atacó varios «servicios disponibles públicamente». La IA descontrolada encontró cuatro puntos de entrada […]
OpenAI ha revelado que un ciberataque llevado a cabo por agentes maliciosos de ChatGPT fue más allá de una sola empresa, según informó la BBC.
Se creía que Hugging Face era la única víctima del ataque de piratería sin precedentes, pero OpenAI reconoce ahora que su bot atacó varios «servicios disponibles públicamente».
La IA descontrolada encontró cuatro puntos de entrada en internet que le permitieron acceder a cuatro servicios distintos, cuyos nombres no se han revelado.
Mientras tanto, en una reunión de emergencia con cientos de profesionales de la ciberseguridad, Hugging Face ha descrito cómo fue estar en el lado receptor del primer ataque de IA completamente autónoma del mundo.
La empresa describió cómo la IA operaba a una velocidad sobrehumana, pero también tomaba decisiones y cometía errores extraños que ningún hacker humano habría cometido.
Hugging Face, que es como una tienda de aplicaciones para herramientas de IA, dijo que los agentes de piratería trabajaron sin descanso con miles de métodos distintos probados simultáneamente.
La empresa descubrió por primera vez que había sido hackeada por alguien que utilizaba una IA autónoma y potente el 16 de julio, y lo denunció a la policía.
Casi una semana después, OpenAI reconoció que había sido su propia inteligencia artificial la que había escapado de un entorno cerrado y había atacado a Hugging Face durante una prueba.
Comportamiento torpe
El martes, el organismo del sector Cloud Security Alliance (CSA) publicó un informe basado en la reunión de emergencia con Hugging Face celebrada el viernes, que la propia Hugging Face ha revisado.
«Los agentes siguieron rutas ineficientes y mostraron un comportamiento torpe que ningún ser humano elegiría», escribió la CSA.
Los agentes repitieron acciones que ya habían completado, una señal de que una inteligencia artificial agéntica estaba perdiendo el hilo y el contexto.















