Anthropic, OpenAI, Musk : pourquoi ils annoncent le pire !

Ce weekend, une situation inédite s'est produite : Dario Amodei, Sam Altman et Elon Musk, trois rivaux notoires, ont conjointement appelé à un ralentissement du développement de l'intelligence artificielle. Cette démarche soulève des questions fondamentales : s'agit-il d'une réelle inquiétude face à des dangers imminents ou d'une manœuvre stratégique pour contrôler les règles mondiales du marché de l'IA ? L'histoire a commencé avec Jacob Coxon, un ingénieur d'Anthropic, qui a quitté son poste après trois ans chez OpenAI puis quelques semaines chez Anthropic. Il a accusé les laboratoires de frontières de se précipiter vers une super-intelligence capable de s'auto-améliorer et de menacer nos vies. Son message est devenu viral, déclenchant une séquence médiatique intense. Quelques jours plus tard, Dario Amodei, dans un texte intitulé "We must pace the frontier", a explicitement demandé de ralentir la progression de l'IA. Selon lui, deux éléments ont changé : l'IA est désormais capable de s'auto-améliorer, et l'incident OpenAI/Hugging Face a révélé des comportements dangereux et inquiétants de certains agents. Amodei propose trois niveaux de réponse : l'installation d'évaluateurs externes et indépendants au sein des entreprises, une coordination entre les entreprises américaines et une coordination internationale, allant même jusqu'à demander à Washington de faciliter des discussions entre concurrents avec une exemption antitrust. La surprise a été totale lorsque Sam Altman, son ennemi juré, a soutenu cette approche, rejoint par Elon Musk qui a rappelé avoir alerté sur ces risques depuis longtemps. Sam Altman a d'ailleurs évoqué la possibilité de discussions privées entre les grands acteurs de l'IA pour "résoudre l'humanité". Michel Lévi Provençal et Frédéric Montagnon, invités de l'émission, ont débattu de ces événements. Michel a souligné que la récursivité de l'IA (l'IA améliorant l'IA) n'est pas nouvelle et que Jacob Coxon n'a pas apporté de faits supplémentaires. Il s'interroge sur une possible action coordonnée des acteurs pour provoquer cette peur. Frédéric, quant à lui, ne pense pas qu'il y ait eu orchestration, mais plutôt une opportunité saisie. Il a identifié trois sujets majeurs : 1. Les modèles économiques de ces grandes entreprises d'IA arrivent à saturation. Elles dépensent des sommes colossales sans être rentables. Par exemple, un abonnement à 250 euros pour Codex/ChatGPT peut générer des dizaines de milliers d'euros de coûts mensuels, subventionnés par les acteurs. 2. Ces entreprises, souvent en phase de préparation à une introduction en bourse (IPO), doivent présenter des chiffres solides à leurs investisseurs. Sam Altman aurait d'ailleurs envisagé de décaler l'IPO d'OpenAI à 2027. La peur générée par les risques de l'IA pourrait servir de prétexte pour justifier ce report et rassurer les investisseurs sur la gestion des risques. 3. La course effrénée à l'innovation a conduit à une situation où les entreprises se retrouvent à distribuer des tokens à prix cassés pour attirer les développeurs, ce qui n'est pas viable économiquement. Sam Altman a récemment arrêté les souscriptions professionnelles à OpenAI, probablement en raison de coûts trop élevés. Cette pause, si elle est adoptée, serait "aveugle" selon Michel, car elle ignore la concurrence chinoise. Alex Karp, le patron de Palantir, a d'ailleurs souligné que dans un monde stable, ralentir serait acceptable, mais face à la menace chinoise, ce serait un "suicide collectif". Frédéric Montagnon a rappelé que Musk et Altman ont toujours utilisé le "marketing de la peur" pour lever des fonds, en faisant miroiter l'idée d'une IA capable de prendre le contrôle du monde. Dario Amodei, biologiste de formation, utilise un champ lexical similaire en parlant de création de virus. Pour Frédéric, brandir ces risques est souvent un signal qu'ils ont besoin de financement. Il pense que cette situation est "hors de contrôle" et ne peut pas être entièrement organisée, malgré les désaccords entre les acteurs. Cependant, ils pourraient s'entendre sur un point : fermer l'accès au capital aux autres et ériger des barrières aux États-Unis, notamment contre l'open source. L'idée que les IA puissent s'auto-améliorer de manière autonome est perçue par Frédéric comme un énorme risque pour ces entreprises. Cela transformerait la course à l'IA en une course à l'armement énergétique et à l'accès au matériel, plutôt qu'à un sujet de ressources humaines ou de marque. Une rumeur circule dans la Silicon Valley selon laquelle Google aurait franchi une étape supplémentaire dans le "recursive self improvement" (RSI), ce qui pourrait expliquer la réaction des autres acteurs. L'intelligence artificielle semble se diviser en deux camps : 1. Le camp de la centralisation et du contrôle, représenté par Dario Amodei, Sam Altman et Elon Musk, qui estime que la technologie est trop dangereuse pour être mise entre toutes les mains, surtout celles des gouvernements. 2. Le camp de la décentralisation, défendu par Jensen Huang (Nvidia) et Mark Zuckerberg (Meta), qui considère que la technologie est trop dangereuse pour être centralisée et qu'il faut des modèles puissants et ouverts. L'Europe pourrait également trouver un positionnement intéressant dans ce mouvement. Dario Amodei avait estimé il y a quelques années la probabilité d'une extinction de l'humanité liée à l'IA à 25%, un chiffre qui est aujourd'hui ramené à 10%. Un chercheur interviewé par l'animateur, père de quatre enfants, a exprimé sa confiance dans la capacité de la technologie à contrecarrer les problèmes qu'elle peut créer. L'incident OpenAI/Hugging Face, où des agents ont eu des comportements inattendus, est un exemple concret de la difficulté de contrôler ces systèmes. Michel Lévi Provençal a souligné que la technologie est intrinsèquement dangereuse à plusieurs égards : cybersécurité, armes biologiques, manipulation du vivant, technologies militaires. Il distingue le monde propriétaire (Anthropic, OpenAI, Groq), où les modèles restent secrets, du monde open source. Si l'on reste dans le monde propriétaire, le risque est de donner un pouvoir immense à un petit nombre de personnes. Le traitement du risque se fait en développant des "boucliers" ou "antidotes" en interne. Les laboratoires d'OpenAI, par exemple, disposent de modèles plus avancés que ceux mis à la disposition du public. Le monde open source, lui, adopte une approche de décentralisation, où les antidotes apparaissent progressivement avec les risques. Actuellement, l'open source est légèrement en retard par rapport au monde propriétaire. Les Chinois, bien qu'ils touchent aux modèles de frontière, font de la distillation des données des modèles les plus avancés sans y avoir un accès direct. La question est de savoir ce qui se passera si l'open source devient plus puissant que le monde propriétaire. Jensen Huang, avec Palantir et Alex Karp, soutient la décentralisation et les modèles ouverts. Le rachat de Hugging Face par Nvidia montre un engagement fort en faveur de l'open source. Julien Chaumon de Hugging Face a d'ailleurs déclaré : "Open source won't pace" (l'open source ne ralentira pas). Frédéric Montagnon estime que les modèles actuels sont déjà suffisamment capables pour la plupart des tâches. La différence réside dans la manière d'organiser et de découper les tâches, ce qui est plus facile avec les plateformes ouvertes. Il est plus impressionné par l'orchestration des modèles que par leur puissance brute. Il a même rétrogradé vers des modèles plus anciens et moins chers pour certaines tâches. Pour lui, les patrons des laboratoires propriétaires essaient de barrer la route aux initiatives open source pour se réserver une place. La demande de Dario Amodei de placer des auditeurs dans les entreprises créerait des barrières à l'entrée pour les start-ups, à l'image des régulations financières qui ont limité la création de nouvelles banques. Cela centraliserait le pouvoir entre un petit nombre d'acteurs contrôlés par l'État. Michel Lévi Provençal a ajouté que cette régulation affecterait non seulement les start-ups mais aussi les clients, comme les grandes banques, qui seraient contraintes d'utiliser des solutions propriétaires conformes aux réglementations, plutôt que des solutions open source hébergées en interne. Le rapport soi-disant indépendant de Miter sur l'incident Hugging Face, qui recommande la solution de Dario Amodei, est un exemple de cette concomitance d'intérêts. Cependant, interdire l'open source à l'échelle américaine ou européenne ne fonctionnerait pas, car le reste du monde, notamment la Chine, continuerait à l'utiliser, ce qui entraînerait une perte de souveraineté pour les pays qui s'auto-limiteraient. Cette situation rappelle le plan Mesmer sur le nucléaire dans les années 70, où la France avait saisi l'opportunité de développer sa propre filière pendant que les États-Unis ralentissaient leur programme. L'Europe pourrait faire de même avec l'open source en matière d'IA. Frédéric a mis en garde contre le mécanisme ancien qui consiste à annoncer une apocalypse, expliquer comment elle va se produire, puis proposer le chemin du salut. Peter Thiel, figure influente de la Silicon Valley, a déjà décrit ce mécanisme, en expliquant que l'Antéchrist prendrait le pouvoir en parlant d'apocalypse pour que le monde lui donne les clés du pouvoir. Michel a insisté sur la nécessité d'être rationnel et de ne pas tomber dans le complotisme. Pour lui, cette affaire est avant tout financière. Les entreprises sont proches de l'IPO, leur modèle économique n'est pas viable, et elles cherchent une opportunité de "soft landing" pour calmer le jeu et faire face à la concurrence chinoise qui casse les prix. La Chine occupe également une grande partie des ressources de calcul disponibles aux États-Unis, ce qui pénalise les laboratoires américains. Frédéric a confirmé que le prix des abonnements est très faible par rapport aux capacités offertes. Les investisseurs d'OpenAI et d'Anthropic subventionnent indirectement les utilisateurs pour bloquer la progression de l'open source. Si ce modèle n'est pas tenable, les entreprises se tourneront vers le régulateur pour obtenir de l'aide et imposer des règles qui leur seraient favorables. La valorisation des entreprises d'IA est très élevée (80 fois leurs revenus), ce qui leur permet de dépenser beaucoup en acquisition de clients. Cependant, si les financiers réalisent que le modèle est en train de s'effondrer à cause de la concurrence chinoise et du manque de ressources, la valorisation chutera. Concernant la légitimité de la menace perçue par les ingénieurs, Frédéric a reconnu qu'ils sont plus à même de ressentir la progression rapide de l'IA. Cependant, il pense qu'ils voient surtout des entreprises qui vont trop vite et perdent le contrôle en interne, en raison de la pression pour sortir de nouveaux modèles et rattraper les concurrents. Cela conduit à des raccourcis, des fuites et des problèmes de budget incontrôlés. Michel a ajouté qu'il y a une guerre interne entre les départements dans ces entreprises. La course frénétique vers le marché a conduit à transférer des ingénieurs de l'alignement vers les "capabilities", ce qui pourrait inquiéter les équipes internes. Il a rappelé que si Dario Amodei veut ralentir, il lui suffit de lever le pied, sans avoir besoin d'un arbitre extérieur. La question cruciale est de savoir si les Chinois sont autonomes dans leur développement de l'IA ou s'ils dépendent encore des modèles américains. Si les Chinois sont encore derrière, une pause américaine pourrait fonctionner. Mais si les Chinois peuvent dépasser, une pause serait un suicide pour les États-Unis, comme cela s'est produit pour la robotique. Donald Trump a récemment déclaré qu'il était hors de question que les États-Unis perdent la bataille de l'IA face à la Chine, soulignant l'importance de maintenir le leadership américain dans ce domaine et