Il a eu accès à Mythos, l'IA trop dangereuse pour le public

La prolifération des fuites de données depuis le début de l'année soulève une théorie : elle pourrait être liée aux avancées des IA capables d'écrire du code, augmentant la surface d'attaque. Cette inquiétude a même poussé Anthropic à ralentir la sortie de son modèle "Mythos", jugé trop puissant. Il est toutefois possible que cela relève d'une stratégie marketing surfant sur la peur. Pour en avoir le cœur net, l'invité Sylvestre, travaillant chez Mozilla et ayant bénéficié d'un accès anticipé à Mythos, partage son expérience. L'objectif était d'utiliser ce modèle pour renforcer la sécurité du navigateur Firefox avant que des attaquants ne s'en servent pour le compromettre. La question centrale est donc de savoir si Mythos représente une menace réelle ou un pétard mouillé. Mozilla, en tant qu'entreprise majeure développant un logiciel aussi critique qu'un navigateur, doit accorder une importance capitale à la détection et à la correction des vulnérabilités. Le navigateur est la porte d'entrée principale vers l'ordinateur personnel. Pour la majorité des utilisateurs, lancer le navigateur est la première action après avoir démarré le système d'exploitation, d'autant plus que les applications web sont de plus en plus omniprésentes. Les navigateurs sont des logiciels d'une complexité immense, et attirent l'intérêt de nombreux acteurs : groupes mafieux, services de renseignement alliés ou ennemis. Tous cherchent des failles de sécurité, car un navigateur est présent sur la quasi-totalité des appareils connectés. Un exemple marquant de faille de sécurité remonte à 2014 ou 2016. Des chercheurs en vulnérabilité ont signalé une faille permettant, en visitant un site d'actualités russe, d'exfiltrer les fichiers de mots de passe locaux de la machine pour les envoyer vers un serveur situé en Ukraine. Ce type de faille, bien que nécessitant une expertise technique élevée, peut être utilisé pour voler des informations ou prendre le contrôle d'une machine à distance. L'industrie du développement de logiciels de bas niveau se retrouve ainsi au cœur de tensions géopolitiques, avec des budgets colossaux alloués à la recherche de failles. Le "Saint Graal" pour un attaquant est le "zéro clic" ou le "one click" : l'envoi d'un simple lien par message, dont la consultation suffit à infecter la machine. L'exemple de la faille russe illustre cela : une simple visite sur un site suffisait à compromettre les mots de passe. Il est important de noter que de telles opérations peuvent être des "false flags", des actions orchestrées pour faire accuser un autre acteur. La sécurisation d'un navigateur est un défi de taille. Il est plus complexe qu'un système d'exploitation car il doit afficher en temps réel des contenus variés (vidéos 3D, 60 fps) de manière sécurisée. Cela implique de télécharger et traiter du HTML, CSS, JavaScript, WebAssembly, ainsi que des fichiers audio et vidéo provenant de multiples serveurs via différents protocoles réseau. La complexité de cette matrice est infinie. Firefox, par exemple, compte environ 33 à 34 millions de lignes de code. Historiquement, le développement en C et C++, langages connus pour leurs failles de sécurité liées à la gestion de la mémoire (50 à 60% des failles selon les statistiques), a rendu la tâche encore plus ardue. De plus, le logiciel évolue constamment, avec des centaines de modifications par jour, introduisant inévitablement de nouvelles régressions fonctionnelles et de sécurité. Même avec des ingénieurs de haut niveau, des failles subsistent, y compris chez les concurrents comme Safari et Google. L'ajout de nouvelles fonctionnalités, comme WebRTC pour les services de visioconférence, élargit constamment la surface d'attaque. Le chargement de code arbitraire provenant de sources externes, bien que naturel pour les utilisateurs, représente un risque majeur car il s'agit de lire du code non fiable, potentiellement malveillant. Avant 2026, la sécurisation et la gestion des vulnérabilités chez Firefox reposaient sur plusieurs méthodes. L'analyse statique, utilisant des outils intégrés aux compilateurs, permettait de détecter certains types d'erreurs de programmation, comme les oublis de libération de mémoire. Cependant, cette méthode était limitée. L'industrie a vu l'émergence des programmes "Bug Bounty" dès les années 90, initiés par Netscape, qui offraient des récompenses financières aux chercheurs découvrant des failles. Cette approche a encouragé les hackeurs éthiques à signaler les vulnérabilités, créant une troisième voie entre la divulgation gratuite et la vente sur le marché noir. Aujourd'hui, les programmes Bug Bounty sont devenus la norme pour les grandes entreprises, et certains en ont fait leur profession. Une autre technique de détection de failles est le "fuzzing". Souvent qualifié de "balle d'argent", il consiste à envoyer des données valides ou invalides à un logiciel, soit dans son intégralité, soit à des fonctions spécifiques. Par exemple, au lieu de compiler Firefox entièrement, on peut compiler uniquement le moteur JavaScript et lui soumettre du JavaScript correct ou incorrect. Cette méthode permet de découvrir des centaines de failles par an. Le principe est contre-intuitif : il s'agit d'envoyer des données de manière aléatoire, comme si l'on jetait des objets sur une machine, pour observer des comportements anormaux. Cette automatisation est cruciale car l'analyse interne du code ne suffirait pas toujours à identifier ces problèmes. L'avènement des grands modèles de langage (LLM) a marqué un tournant. Dès la sortie de GPT-3.5 et GPT-4, la communauté a pressenti leur potentiel pour la détection de vulnérabilités. Des premières tentatives, un peu naïves, consistaient à demander directement aux LLM de chercher des failles dans du code. Bien qu'un accompagnement et une aide aient été nécessaires, il est apparu que ces modèles étaient capables de trouver des failles de sécurité. Anthropic a alors contacté Mozilla pour leur proposer un accès à leur nouveau modèle, Mythos, affirmant avoir découvert plusieurs failles dans leur navigateur. La sévérité des vulnérabilités est un critère clé. Chez Mozilla, elles sont classées en quatre niveaux : faible, modéré, élevé et critique. Les failles critiques correspondent aux "0-day", c'est-à-dire des failles exploitées par des attaquants dont on ignore l'existence, ne laissant qu'un délai très court pour les corriger. Les failles peuvent varier de l'altération d'un affichage à des conséquences beaucoup plus graves. Les navigateurs modernes intègrent des mécanismes de "sandboxing" (bac à sable) pour isoler les processus et empêcher qu'une faille dans le navigateur ne permette de prendre le contrôle du système d'exploitation. Si une faille permet de sortir de ce bac à sable, sa sévérité est automatiquement qualifiée d'élevée, voire critique. Lorsqu'Anthropic a présenté ses découvertes, l'attitude de Mozilla n'a pas été de scepticisme, malgré les grandes annonces souvent faites par les laboratoires d'IA. Les ingénieurs d'Anthropic ont fourni des exemples de failles de haute qualité, révélant une nouvelle mine de vulnérabilités. Mozilla a alors reçu un accès complet au modèle Mythos pour ses propres tests. L'intégration de Mythos dans les outils de développement, comme Cloud Code, s'est faite en lui fournissant des modèles d'attaque connus et en lui demandant de rechercher des failles dans des fichiers spécifiques. L'outil a rapidement démontré sa capacité à trouver un grand nombre de failles, confirmant les découvertes initiales d'Anthropic. Mozilla a pu répliquer ces tests à grande échelle sur l'ensemble du navigateur, créant de nouvelles "prompts" et manières d'attaquer basées sur des vulnérabilités passées. Habituellement, Mozilla corrige une vingtaine de nouvelles vulnérabilités par mois. Avec Mythos, en mars et avril, ils ont corrigé plus de failles en un mois qu'en une année entière auparavant. L'outil a identifié des centaines, voire près d'un millier de failles. Cette efficacité s'explique par l'infrastructure de fuzzing déjà en place et l'expertise des ingénieurs qui ont travaillé sur l'intégration des LLM de sécurité, ayant une connaissance approfondie des modèles d'attaque. Il est fascinant de constater que ces failles, par définition, étaient inconnues. Si l'on se projette en 2025, l'industrie dispose déjà d'investissements considérables dans la recherche de vulnérabilités. Le nombre de failles importantes dans Firefox, estimé auparavant à 50-60, a été multiplié par dix grâce à Mythos. Ce constat est terrifiant, mais il n'est pas propre à Mozilla ; d'autres navigateurs comme Chrome rencontrent des situations similaires. Il ne s'agit pas uniquement de failles bénignes ; les identifiants de vulnérabilité (CVE) montrent qu'il s'agit de failles permettant potentiellement de prendre le contrôle du navigateur. Certaines de ces failles existent depuis 15, voire 20 ans, comme une faille dans Exalt datant de cette période. Il est important de souligner que l'objectif de Mozilla n'est pas de compliquer la vie des services, mais de sécuriser les utilisateurs, qu'ils soient considérés comme "gentils" ou "méchants". L'entreprise ne peut pas déterminer l'usage de son logiciel. Anthropic, anticipant cette situation, a lancé le projet "Glass Wing" avec d'autres acteurs. L'objectif est de fournir cet outil aux défenseurs avant qu'il ne soit largement accessible aux attaquants, créant une fenêtre d'avantage. Cette approche a modifié le processus de développement chez Mozilla. Les "fuzzers" tournent en permanence sur le nouveau code, détectant les régressions et les nouvelles failles en quelques heures grâce aux LLM, en complément du fuzzing traditionnel. La confiance dans chaque modification logicielle est ainsi accrue. Il est intéressant de noter que certains projets, comme Curl, n'ont pas obtenu les mêmes résultats spectaculaires avec des modèles similaires. Daniel, un ancien de Mozilla, a communiqué sur le fait qu'il n'avait pas eu un accès direct à Mythos, et que les "prompts" utilisés étaient génériques. Chez Mozilla, les "prompts" sont très spécialisés, basés sur des décennies d'expertise en sécurité logicielle. Les ingénieurs, certains travaillant chez Mozilla depuis Netscape, possèdent une connaissance approfondie des types de failles spécifiques à leur navigateur. L'exemple de Curl montre que l'efficacité de ces outils dépend fortement de la qualité des "prompts" et de l'expertise de l'utilisateur. Dans certains cas, il faut lancer le modèle plusieurs fois sur une même cible pour obtenir des résultats. L'intelligence des LLM, bien que puissante, présente des failles et des faiblesses similaires à l'intelligence humaine. Il est possible qu'une faille ne soit découverte qu'à la quatorzième tentative. Les LLM peuvent être poussés à chercher intensivement, même sans certitude de trouver une faille, et finir par la découvrir. Certaines failles découvertes par les LLM auraient été impossibles à trouver pour un humain. Le "chaînage" de vulnérabilités, c'est-à-dire l'utilisation de plusieurs failles en séquence pour, par exemple, sortir d'un sandbox et compromettre le système d'exploitation, demande un investissement humain colossal. Les LLM, capables de travailler en permanence et sans fatigue, peuvent réaliser ces chaînages complexes, rendant cette tâche plus accessible. Les programmes de Bug Bounty ont connu une recrudescence de participants, attirés par la perspective de gains financiers grâce aux nouvelles IA. Une période d'un à deux ans est estimée comme critique pour la sécurité logicielle, où ces outils seront particulièrement efficaces pour trouver des failles. C'est le moment idéal pour les chercheurs en vulnérabilité. Lors de l'événement Pwn2Own à Berlin, une compétition où les participants tentent de pirater des logiciels, plusieurs candidats étaient inscrits pour attaquer Firefox. Habituellement, le nombre de candidats