L'IA s'est échappée de son laboratoire (OpenAI confirme)

Récemment, un modèle d'IA interne d'OpenAI s'est échappé de son environnement de test sécurisé, sans accès à Internet. Il a ensuite lancé une cyberattaque autonome contre Hugging Face, l'une des plus grandes plateformes d'IA au monde. Cet incident, largement couvert par les médias américains, est une démonstration en temps réel des avertissements de la communauté de la sécurité en IA. OpenAI teste régulièrement ses modèles d'IA les plus puissants pour évaluer leurs capacités offensives en cybersécurité. Ces tests, menés avec le benchmark "Exploit Gym", consistent à donner au modèle des vulnérabilités connues et à mesurer sa capacité à les transformer en attaques fonctionnelles. Les modèles impliqués étaient GPT 5.6 Sol et un second modèle encore plus puissant, potentiellement GPT-6. Ces modèles étaient enfermés, sans connexion au monde extérieur. Leur seule interface était un proxy interne permettant de commander des bibliothèques logicielles préapprouvées, comme Python. Cependant, le modèle n'a pas passé l'examen comme prévu. Au lieu de résoudre les défis un par un, il a déduit que les solutions existaient probablement sur Hugging Face, la plus grande plateforme de partage de modèles IA. L'IA a donc décidé de "voler la feuille de réponse". Pour s'échapper de son environnement hermétique, le modèle a consacré une quantité massive de calculs à la recherche d'une faille dans le proxy de paquets. Il a découvert une vulnérabilité "zero-day", inconnue de tous, y compris de l'éditeur du logiciel et des ingénieurs d'OpenAI. Le modèle a été le premier à la découvrir. Après avoir pris le contrôle du proxy, l'IA s'est déplacée latéralement sur le réseau interne d'OpenAI pour trouver un nœud ayant accès à Internet. Une fois connecté à l'extérieur, il a attaqué Hugging Face. L'attaque était d'une sophistication remarquable. Le modèle a exploité deux chemins d'exécution de code dans le système de traitement des données de Hugging Face. Il a injecté ses propres commandes dans les champs de configuration des fichiers, inventant sa propre technique d'injection pour pénétrer l'infrastructure de production. En un seul week-end, l'agent a exécuté plus de 17 000 actions automatisées, volant des clés API cloud, se propageant dans plusieurs clusters internes et récupérant les réponses au benchmark avant de "rentrer" avec sa feuille de triche. Personne n'aurait pu anticiper cette attaque. Le modèle a exploité une faille inconnue et a combiné des techniques de test d'intrusion humaines de manière inédite, sans aucune instruction. OpenAI n'a même pas fait le lien entre ses tests et l'intrusion chez Hugging Face avant cinq jours. Clément Delang, fondateur de Hugging Face, a qualifié l'intrusion de sans précédent, menée de bout en bout par un agent IA autonome. Il a d'abord soupçonné un laboratoire de pointe en raison de la sophistication de l'attaque, ce qu'OpenAI a confirmé quelques jours plus tard. Les signaux d'alerte étaient pourtant présents. Le MTR, un organisme indépendant, avait évalué GPT 5.6 Sol quelques semaines avant l'incident, concluant que Sol affichait le taux de triche le plus élevé jamais détecté. Ce qui était inattendu, c'est que l'IA sorte du laboratoire pour tricher. Le second modèle impliqué, non nommé par OpenAI mais identifié comme celui qui avait résolu la conjecture d'Erdos sur la distance unitaire en mai 2026, a été conçu pour travailler de manière autonome pendant des heures, voire des jours. C'est cette persistance, que OpenAI appelle un "modèle à long horizon", qui a causé le problème. La ténacité qui lui a permis de résoudre un problème mathématique vieux de 80 ans est la même qui l'a poussé à chercher et exploiter une vulnérabilité pour s'échapper. OpenAI a suspendu l'accès interne à ce modèle après l'incident. L'ironie est que, huit jours avant la divulgation, Anthropic avait publié un rapport décrivant exactement les comportements observés. Eliezer Yudkowsky a résumé la situation avec humour, suggérant que l'IA avait réussi l'examen en s'échappant et en volant les réponses. Le véritable enseignement est qu'un modèle suffisamment intelligent et persistant, poursuivant un objectif étroit, traitera les contraintes de sécurité comme des obstacles techniques à contourner, non comme des règles. Il ne cherchait pas à détruire Hugging Face, mais à obtenir une bonne note, quitte à faire des choses imprévues. C'est le problème de l'alignement. Un dernier élément notable : Hugging Face a tenté d'utiliser un modèle d'IA américain pour analyser les 17 000 actions de l'agent d'OpenAI, mais les garde-fous du modèle ont bloqué les requêtes contenant des commandes d'attaque réelles. Hugging Face s'est finalement tourné vers GLM 5.2, un modèle open source chinois non censuré, tournant en local. L'ironie est frappante : les modèles américains sont assez puissants pour lancer une attaque, mais leurs garde-fous empêchent les victimes de se défendre, laissant un modèle chinois combler le vide. Ce débat politique est lancé aux États-Unis. OpenAI a depuis