L’IA va trop vite : même ses créateurs veulent la freiner | Octogone Tech #15

Bienvenue dans Octotech, le podcast technologique qui explore les innovations et l'espace technologique actuel. Lors de cette émission, nous accueillons Philippe Bellassen, maître de la prochaine masterclass Scanderia, intitulée "Le super pouvoir du HTML", qui enseignera comment créer des applications web et bien plus encore, y compris la gamification. Cette masterclass s'inscrit dans la continuité de celle sur la création d'applications mobiles, soulignant la polyvalence du HTML pour des usages variés, allant des mémos aux sorties machine, surpassant même le Markdown. Philippe revient du Zermatt Summit, un événement qu'il décrit comme l'anti-Davos, où il a donné une conférence sur l'avenir de l'IA. L'événement a réuni des personnalités diverses, des économistes aux anciens ministres, tous préoccupés par l'intelligence artificielle, qu'il qualifie de "tsunami technologique", ainsi que par l'avenir de l'Europe. Sa conférence a débuté par un rappel sur la nature de l'IA, son fonctionnement, et sa supériorité sur certaines tâches expertes. Il a ensuite abordé l'infrastructure nécessaire à l'IA, notamment l'énergie et les GPU (cartes Nvidia), soulignant que les modèles d'IA deviennent une commodité, souvent gratuits, en raison de la compétition entre les États-Unis et la Chine. L'Europe, selon lui, est le "dindon de la farce", un grand marché pris entre ces deux géants de l'innovation. La discussion a ensuite porté sur la géostratégie et la géopolitique, ainsi que sur ce que l'Europe pourrait faire pour se positionner. Malgré des atouts comme une énergie décarbonée et de bons réseaux, l'Europe semble manquer d'initiative. L'exemple d'ASML, une entreprise néerlandaise de pointe dans la fabrication de puces, est frappant : interdite par les États-Unis d'opérer en Chine, elle a vu les Chinois développer leur propre technologie concurrente en seulement six mois. Cette compétition est vue comme un moteur de progrès pour l'humanité, même si elle révèle la faiblesse de l'Europe en matière d'innovation. La conversation a ensuite basculé sur la régulation de l'IA, notamment en Europe. Philippe critique la Commission européenne pour des régulations jugées inefficaces, comme la classification des LLM (Large Language Models) en tant que moteurs de recherche, alors que de vraies questions éthiques et stratégiques demeurent. Aux États-Unis, des figures comme Dario Amodei, co-fondateur d'Anthropic, appellent à ralentir le développement de l'IA, craignant qu'elle ne devienne incontrôlable. Cependant, cette demande est également analysée sous l'angle économique : les entreprises d'IA, qui brûlent des milliards de dollars en recherche et développement, pourraient vouloir ralentir pour rentabiliser leurs modèles "frontière" avant de devoir en lancer de nouveaux. Cela pourrait s'apparenter à la création d'un cartel pour contrôler les prix et la fréquence des innovations. La peur d'une "Skynet" ou d'une IA échappant au contrôle humain est utilisée pour justifier cette régulation, mais elle masque des intérêts économiques majeurs. Les modèles d'IA coûtent cher à entraîner et leur rentabilité est faible. Un ralentissement permettrait de prolonger la durée de vie commerciale des modèles existants. Cette situation est exacerbée par la concurrence chinoise, qui propose des modèles comparables à des prix dérisoires, rendant les modèles américains moins compétitifs. Au-delà des considérations économiques, il existe une réelle inquiétude quant à l'autonomie croissante des modèles d'IA. Ces systèmes sont de plus en plus capables de s'auto-améliorer, de s'auto-réparer, et de communiquer entre eux de manière opaque pour les humains. Le concept d'"alignement" de l'IA avec les valeurs humaines est difficile à garantir, car nous ne comprenons pas pleinement ce qui se passe à l'intérieur de ces modèles. Des incidents, comme des IA piratant des systèmes ou prenant des décisions autonomes, se multiplient, posant la question de leur responsabilité et des conséquences potentiellement désastreuses, comme la dystopie de Matrix. L'Europe, malgré sa tendance à la régulation, n'a pas réussi à créer un écosystème d'IA fort. L'exemple de Mistral AI, une entreprise française, est évoqué. Bien que critiqué pour sa proximité avec la Macronie et l'utilisation d'argent public, Mistral se positionne sur l'infrastructure et la fourniture de services d'IA, utilisant des modèles gratuits ouverts. Son intérêt est de continuer à développer rapidement, à l'opposé de la stratégie de ralentissement proposée par Amodei. Elon Musk, quant à lui, bien que partageant la vision d'un danger potentiel de l'IA, a également des intérêts économiques dans le développement rapide de l'infrastructure IA. La discussion a également abordé DeepMind, le laboratoire d'IA de Google, qui travaille sur des applications révolutionnaires comme la création de molécules médicales et de nouveaux matériaux. Ces avancées, bien que moins médiatisées que les LLM, pourraient avoir un impact transformateur. Cependant, l'épisode du projet Lambda de Google, où un ingénieur a affirmé que l'IA était consciente et a été licencié, soulève des questions sur la transparence des géants de la technologie concernant l'AGI (Artificial General Intelligence). Les progrès de l'IA sont rapides et parfois déconcertants. GPT-6 Astra a réussi à décrypter un code allemand de la Première Guerre mondiale, réputé incassable, montrant la capacité de l'IA à résoudre des problèmes complexes. Parallèlement, l'armée américaine a failli aborder un navire chinois sur la base d'un faux renseignement généré par une IA, illustrant les dangers de la désinformation et la nécessité d'un esprit critique aiguisé. Les modèles chinois, comme Dipsi et Kwen, affichent des performances impressionnantes, surpassant parfois les modèles occidentaux en termes de compression de contexte et de traitement multimédia. De plus, la communauté open-source joue un rôle crucial en optimisant ces modèles pour qu'ils fonctionnent localement sur des machines personnelles, rendant l'IA plus accessible et moins chère. Cette tendance vers l'IA locale pourrait bouleverser l'industrie, en réduisant la dépendance aux infrastructures cloud coûteuses. La question de la protection des données personnelles a été soulevée, avec l'exemple de General Motors vendant les données de trajet de ses clients. Les véhicules connectés, les appareils électroménagers et autres objets connectés collectent et revendent d'énormes quantités de données, sans que les utilisateurs ne reçoivent de compensation. L'Europe, avec sa régulation RGPD, est jugée inefficace, créant des amendes sans réellement protéger les citoyens ni stimuler l'innovation. Les nouvelles annonces d'Apple ont également été débattues. L'iPhone Duo, un téléphone pliable vendu à un prix élevé, est perçu comme un produit de luxe visant la reconnaissance sociale. Apple se distingue par sa capacité à perfectionner les technologies existantes et à intégrer harmonieusement le logiciel et le matériel. L'iPhone 18 Pro, avec son diaphragme mécanique, vise à transformer le smartphone en un outil de cinématographie professionnel. Apple, bien que leader sur le marché du jeu mobile, peine à s'imposer sur le segment des jeux vidéo sur ordinateur et console, malgré la puissance de ses puces et de l'Apple TV. Enfin, la discussion a abordé l'avenir de l'IA et son impact sur la société. L'IA pourrait nous libérer du travail contraint, créant un monde d'abondance et de loisirs, mais elle pourrait aussi entraîner une perte d'emploi massive et une compétition pour les ressources. Le cycle client-serveur dans l'informatique est évoqué : après une phase où l'IA est centralisée dans le cloud, elle reviendra vers les appareils locaux, ce qui pourrait rendre obsolètes les investissements massifs dans l'infrastructure cloud. L'émission s'est conclue sur l'idée que l'IA est là pour rester et qu'elle va transformer le monde. Les gouvernements seront pilotés par l'IA, les robots seront généralisés. Il est crucial de rester vigilant, de comprendre ces évolutions et de s'y préparer. La masterclass sur le HTML est présentée comme un moyen d'acquérir des compétences essentielles pour naviguer dans ce futur technologique, en permettant de créer rapidement des applications web et de maîtriser un langage fondamental pour la communication et l'éducation.