Quand Sanders ET Trump sont d'accord, c'est que la situation est grave !

Aujourd'hui, Silicone Carnet se penche sur la feuille de route de Google DeepMind vers la super intelligence, un document de 60 pages co-signé par le père du concept d'intelligence artificielle générale (IAG), Shane Legg. Ce rapport propose quatre chemins techniques pour atteindre cet horizon en sept décennies, soulevant la question : devons-nous y croire ou le craindre ? Parallèlement, le paysage politique est en effervescence. L'administration Trump a utilisé pour la première fois un bouton d'arrêt d'urgence sur des modèles puissants d'Anthropic, révélant à l'Europe sa vulnérabilité numérique. L'Argentine envisage des entreprises sans humains, tandis que Bernie Sanders et Donald Trump s'accordent, fait inédit, sur la nécessité pour le public de posséder une part de l'IA. Cette convergence des extrêmes américains souligne l'ampleur du problème : qui contrôle, qui est responsable, qui possède, qui gouverne, qui taxe l'IA ? Avant de débattre avec mes invités, je tiens à remercier Corum, qui, depuis 14 ans, gère 7,5 milliards d'euros dans l'immobilier diversifié à travers 18 pays. Leur approche transparente et leur indépendance, avec plus de 157 000 clients, sont remarquables. Une offre spéciale est disponible jusqu'au 31 juillet sur corum.fr. L'investissement comporte des risques et n'offre aucune garantie de performance. Nous accueillons Laurent et Alexandre pour discuter de ce rapport de Google DeepMind, qui est passé inaperçu en France. Ce document de recherche, et non un simple blog post, est crucial. Shane Legg, co-fondateur de DeepMind et père de l'IAG, y décrit une feuille de route pour passer de l'IAG à la super intelligence. Définissons ces concepts : l'IAG est atteinte lorsque l'IA égale l'humain dans presque tous les domaines cognitifs, avec quelques lacunes. La super intelligence, selon Google, est l'équivalent de milliers ou de dizaines de milliers d'experts humains coordonnés travaillant pendant des années, voire une décennie. C'est un changement de nature radical. Les auteurs du rapport estiment que la super intelligence pourrait être atteinte en une décennie, compte tenu de la progression exponentielle de l'IA. Ils envisagent quatre méthodes : augmenter la puissance de calcul (plus de puces GPU), coordonner des essaims d'agents pour créer une intelligence collective, développer de nouvelles solutions logicielles comme les "world models" au-delà des LLM, et permettre aux IA de s'améliorer elles-mêmes. Il y a eu un débat sur l'atteinte de la super intelligence via les LLM. Sam Altman et Ilya Sutskever se sont opposés, Sutskever pariant sur les world models, rejoignant la thèse de Yann LeCun. Bien que LeCun ait longtemps critiqué les LLM, il a dû admettre leur progression fulgurante. Les LLM d'Anthropic, construits comme des lignes de code, ont montré des capacités de raisonnement linguistique impressionnantes. La quatrième piste de Google, l'auto-amélioration des IA, est fascinante. Revenons à Yann LeCun : il s'est trompé sur les limites des LLM, qui se sont avérés bien plus intelligents qu'il ne l'imaginait. Ses prédictions sur l'incapacité de ChatGPT à comprendre le monde physique ont été rapidement démenties. Son scepticisme pourrait être lié à son absence du prix Nobel, contrairement à Hinton, et au fait que les LLM ne sont pas sa propre création. Ce manque d'indépendance dans l'écosystème de l'IA est un problème majeur. Les acteurs défendent souvent des intérêts marketing ou business. Sam Altman annonçait l'IAG proche avant une levée de fonds, et Yann LeCun, qui monte une entreprise de world models, dénigre les LLM. Cela brouille la perception publique. L'arrivée de l'IAG est presque un non-événement, les gens étant blasés par la technologie. C'est pourquoi Google se tourne vers la super intelligence. Les frictions sont réelles. En Occident, 44 % des jeunes de la génération Z sabotent l'IA en entreprise par peur de perdre leur emploi. L'IAG peine à transformer la vie des entreprises, avec seulement 5 à 6 % des entreprises constatant un bénéfice. Ce sabotage et la mauvaise implémentation expliquent ce faible chiffre. Le public, en particulier la jeune génération, est blasé, voire en colère. Aux États-Unis, des attentats ont visé Sam Altman et Eric Schmidt, et des associations comme "Pose AI" manifestent en Europe. Le politique doit répondre à cette violence et inquiétude. La tribune de 150 intellectuels dans Le Monde demandant le boycott de l'IA, ou celle de personnalités dans le Times, sont des exemples de cette réaction. Ces critiques sont vouées à l'échec en raison de la théorie des jeux : si la Chine ne s'arrête pas, nous ne pouvons pas nous permettre de le faire. L'autarcie ne fonctionne pas. La France est loin derrière. Nous investissons 2 milliards par an, contre 3 milliards par jour pour la Silicon Valley en R&D. Les 655 millions d'euros supplémentaires annoncés par notre Premier ministre pour l'IA représentent 1/70e d'un data center de 1 GW. Cette enveloppe sera fragmentée et servira à équiper les fonctionnaires de licences Mistral ou ChapVision, en remplacement de Palantir. Est-ce un bon choix ? Une solution européenne moins performante que Palantir pour la lutte antiterroriste est une lourde responsabilité politique. Le problème de l'Europe ne date pas d'hier. Depuis 1980, nous avons manqué toutes les révolutions technologiques : le cloud, les GPU, les moteurs de recherche, les réseaux sociaux. Aujourd'hui, un oligopole de GAFAM bénéficie de cash-flows énormes, leur permettant d'attirer les meilleurs cerveaux et d'investir massivement. Nous ne pouvons pas rattraper ce retard. La question est de savoir quelle est notre "terre rare", notre atout stratégique. La Chine a utilisé l'arrêt des exportations d'aimants et de terres rares pour contraindre Trump. Nous n'avons pas d'équivalent. Le quantique est une piste, mais encore immature. La seule voie pour une souveraineté réelle est d'accepter de perdre certaines batailles et d'investir massivement dans deux ou trois domaines stratégiques où nous avons une chance de gagner. Mais nous manquons de moyens. Google a des ressources illimitées pour le quantique, l'Europe ne peut pas suivre. Notre retard est structurel. Un problème que nous pourrions résoudre est la réglementation. L'Europe est paralysée par des réglementations fragmentées et des lois comme l'AI Act, écrite avant ChatGPT et inadaptée. Les Américains et les Chinois adoptent une stratégie différente : ils lancent de multiples projets et voient lesquels réussissent. Nous, nous poussons un champion unique, Mistral, et l'entourons de réglementations qui l'empêchent de se développer librement. Arthur Mensch de Mistral, bien que sincère, défend une solution qui est la sienne, pas celle de l'État. Mistral est majoritairement financé par des Américains. La souveraineté de cette solution est donc relative. Aux États-Unis, les consommateurs ont le choix entre plusieurs modèles d'IA. En Europe, nous sommes piégés par le manque d'alternatives. Le manque d'argent est criant. Les 655 millions pour l'IA représentent une demi-journée du budget des retraites. La France ne veut pas flécher l'argent des retraites vers l'IA, car aucune majorité politique ne l'acceptera. Il faudra probablement attendre une crise financière pour que la France réforme, mais cela pourrait mener à des révoltes. Parallèlement, le marché du travail risque d'être bouleversé par l'IA. Les jeunes, déjà inquiets, pourraient être confrontés à des difficultés. Une étude de Stanford révèle un recul de 13 % de l'emploi chez les jeunes. Les tâches simples seront automatisées, y compris dans le domaine juridique. Les avocats verront leurs tâches de recherche facilitées, mais les IA juridiques peuvent aussi raconter des "conneries", surtout si elles sont basées sur d'anciens modèles. La question de la responsabilité est complexe. Miley propose des sociétés anonymes sans actionnaires humains, contrôlées par l'IA, ce qu'Harari juge dangereux. Qui est responsable en cas d'accident avec une voiture autonome ? Le constructeur, pas l'utilisateur. Mais expliciter les choix moraux de l'IA est difficile. Des études montrent que les IA ne sont pas neutres et peuvent développer des traits psychopathiques si elles sont exposées à des contenus virulents. La question de l'alignement moral des IA est majeure. La propriété de l'IA est un autre enjeu. Bernie Sanders et Donald Trump s'accordent sur la nécessité d'une participation publique. Faut-il nationaliser Mistral ? Laurent Alexandre pense que cela tuerait l'entreprise par la bureaucratie. La concentration du pouvoir économique et des règles de marché est un risque majeur. Si le premier à avoir la super IA trouve des médicaments ou des matériaux révolutionnaires, il pourrait devenir immensément riche et puissant. Empêcher les entreprises d'IA de commercialiser leurs meilleurs modèles pourrait les inciter à les garder en interne, créant d'immenses conglomérats technologiques. Le problème est que l'IA est un méta-domaine qui touche tous les autres. La fiscalité de l'IA est également délicate. Taxer l'intelligence freinerait la recherche, notamment en cancérologie. Taxer les robots pénaliserait l'industrie face à des pays comme la Chine. Des fonds souverains ou un revenu universel sont des pistes, mais soulèvent des questions de contrôle et de redistribution. L'humanité n'est pas prête au choc de l'IA. Les conséquences sociales, politiques et économiques sont imprévisibles. Un pilotage politique fin est nécessaire, mais les politiques ont du mal à gérer les révolutions technologiques. Aux États-Unis, un "Roosevelt" pourrait émerger pour briser les monopoles des Big Tech, suite à la colère des jeunes et des anti-monopoles. La souveraineté est un défi. Les États-Unis et la Chine poussent leurs géants à dominer le monde. L'IA est l'une des rares technologies de rupture à ne pas émaner du Pentagone, mais du privé. Trump soutient les GAFAM en dérégulant le marché de l'électricité et en autorisant les entreprises à produire leur propre énergie. Cela favorise l'avènement d'une ère d'abondance, mais aussi de bouleversements. La Chine normalise ses modèles open source auprès de l'Europe, ce qui est une erreur stratégique pour les États-Unis. La Chine définit les standards robotiques. Le monde des agents IA est prometteur, mais soulève des questions sur le langage et l'autonomie. Michel Lévi Provençal se lance dans ce domaine. Nous vivons une époque formidable pour ceux qui maîtrisent ces concepts, mais difficile pour ceux dont l'emploi est menacé ou le diplôme dévalorisé. La prime sera donnée aux plus intelligents et aux plus débrouillards, mais une partie de la jeunesse, mal formée, aura du mal à s'adapter. Merci de nous avoir suivis. À la semaine prochaine.