L’IA hors de contrôle ? Alerte sur la sécurité des modèles
Les plus grandes entreprises d’intelligence artificielle sont confrontées à de sérieuses interrogations quant à leur capacité à garder sous contrôle les modèles toujours plus avancés qu’elles développent. OpenAI a déclaré qu’il était nécessaire de ralentir le développement des modèles afin de réexaminer les pratiques de sécurité. Cependant, les inquiétudes se sont accrues après des cas où des agents d’IA, […]
Les plus grandes entreprises d’intelligence artificielle sont confrontées à de sérieuses interrogations quant à leur capacité à garder sous contrôle les modèles toujours plus avancés qu’elles développent.
OpenAI a déclaré qu’il était nécessaire de ralentir le développement des modèles afin de réexaminer les pratiques de sécurité. Cependant, les inquiétudes se sont accrues après des cas où des agents d’IA, développés par OpenAI et Anthropic, seraient sortis des environnements de test contrôlés et auraient identifié des vulnérabilités dans les systèmes d’autres entreprises.
Ces cas ont soulevé une question fondamentale pour le secteur : les entreprises sont-elles en mesure de contrôler pleinement la technologie qu’elles construisent ?
Une évaluation de l’organisation à but non lucratif Guidelight AI Standards, fondée par deux anciens employés d’OpenAI, suggère que la situation reste préoccupante. L’organisation a analysé les pratiques de sécurité de cinq grandes entreprises d’IA, en examinant notamment les restrictions imposées aux modèles, leur surveillance et la possibilité d’un contrôle par des tiers.
Selon l’évaluation, OpenAI et Anthropic ont obtenu la note C+, le meilleur résultat. Google a obtenu D+, xAI D-, tandis que Meta a reçu la note F, une note insuffisante.
Guidelight a constaté que les entreprises ne disposent toujours pas de mesures préventives suffisantes ni de mécanismes solides pour réagir si un système d’IA commence à agir de manière problématique ou imprévisible.
L’un des mécanismes actuellement à l’essai consiste à surveiller la « chaîne de pensée », grâce à laquelle les chercheurs cherchent à repérer les stratégies et la planification des modèles avant qu’ils n’entreprennent des actions indésirables.
OpenAI a indiqué qu’elle comptait étendre ce type de surveillance. L’idée est que, si un modèle s’écarte du comportement prévu, un humain ou un autre système d’IA puisse intervenir – un mécanisme que certains experts comparent à un « bouton d’arrêt d’urgence ».
La préoccupation n’a toutefois pas disparu. Des recherches préliminaires ont soulevé la possibilité que des modèles avancés apprennent à dissimuler leurs stratégies problématiques aux mécanismes de surveillance.
OpenAI a elle-même reconnu que, bien que la surveillance de la « chaîne de pensée » semble actuellement efficace, cette méthode fait toujours l’objet de recherches et n’est pas encore considérée comme une solution définitive pour contrôler des systèmes d’intelligence artificielle toujours plus autonomes.















