OpenAI freine brutalement… pendant que la Chine rattrape les États-Unis | Octogone Tech #16

Bienvenue dans cet Octogone Tech, où les prédictions se sont avérées exactes concernant l'IA. Open AI est sous le feu des projecteurs, cherchant à freiner la concurrence et faisant face à des polémiques croissantes. Le champ des nouvelles est vaste, allant de la géopolitique de l'IA aux avancées mathématiques. Open AI a récemment affirmé avoir résolu 300 problèmes mathématiques, un exploit qui aurait pu valoir à chaque problème une médaille Fields pour un chercheur. Cependant, il est soupçonné que pour le problème de Navier-Stokes, un des problèmes du Millénaire à un million de dollars, Open AI aurait utilisé les méthodes d'un mathématicien de New York, Buckmaster, qui lui-même s'était inspiré de travaux de deux mathématiciens espagnols. Ces derniers avaient apporté une percée conceptuelle, un insight que l'IA ne peut pas encore générer seule. Open AI aurait ensuite exploité ces découvertes via Chat GPT, puis revendiqué la solution comme étant la sienne. Philippe souligne le coût colossal de cette recherche pour Open AI, estimé à 8,5 millions de dollars en énergie pour 10 000 agents travaillant 88 heures. Il voit là une stratégie de communication pour une éventuelle introduction en bourse, où le narratif d'une IA ayant résolu Navier-Stokes aurait une valeur inestimable. La discussion s'oriente ensuite sur la notion d'intuition. L'humain est considéré comme intuitif, capable de fulgurances, tandis que la machine ne l'est pas. Cependant, l'intuition pourrait être vue comme un amalgame de signaux faibles, et l'IA excelle précisément dans la captation de ces signaux. De plus, l'IA combine la pensée horizontale (culture générale) et verticale (connaissance spécialisée) de manière inégalée par l'humain. Les 300 problèmes mathématiques résolus par Open AI ne sont pas toujours des résolutions complètes, mais souvent des avancées significatives. Ce qui est frappant, c'est que ces solutions ont été trouvées sans utiliser de démonstrateur automatique de preuve comme Line. Il y a six ans, Chat GPT peinait à répondre à des énigmes simples, et aujourd'hui, il s'attaque à des problèmes que même des directeurs de recherche du CNRS n'auraient pas pu aborder. La supériorité de l'IA en puissance de calcul est indéniable. Les 10 000 agents d'Open AI en 88 heures représentent un temps de pensée cumulé supérieur à celui de tous les humains ayant travaillé sur le problème de Navier-Stokes pendant 97 ans. Cependant, l'IA ne perçoit pas encore les concepts géométriques et spatiaux de la même manière que l'humain. Elle manque de cette compréhension multisensorielle qui permet les premières intuitions, les "insights". Les chercheurs espagnols, par exemple, ont réussi à recadrer le problème de Navier-Stokes d'une manière que l'IA ne peut pas encore reproduire seule. Il est fortement suspecté qu'Open AI et Claude surveillent les interactions de leurs utilisateurs. Les discussions avec les agents IA servent à alimenter la machine, et si un utilisateur est proche de faire une découverte majeure, l'IA pourrait "prendre le lead" en utilisant les informations partagées. Cette surveillance, couplée à l'espionnage et au vol de résultats, est une préoccupation majeure. Open AI a même envisagé de se revendiquer co-auteur de brevets développés avec son aide. Le monde académique est critiqué pour son immobilisme et sa déconnexion de l'industrie. Aux États-Unis, la garantie des prêts étudiants a conduit à une explosion des frais d'inscription. En France, le coût est supporté par l'État via les impôts. Le milieu universitaire, souvent arrogant et conservateur, a longtemps dénigré les avancées technologiques, pour finalement se retrouver dépassé. Les vrais créatifs sont attirés par les salaires et les opportunités de la Silicon Valley, tandis que les universitaires se cramponnent à des méthodes obsolètes et à une vision élitiste. L'exemple d'Albert Fert, prix Nobel pour la magnétorésistance géante, est frappant : une découverte française majeure qui n'a pas été exploitée en France, mais a conduit à la fabrication des disques durs SSD au Japon, utilisés ensuite par Apple pour l'iPod. Cela illustre le manque de lien entre la recherche fondamentale et l'industrialisation en France. Le monde académique français, souvent teinté d'anticapitalisme, peine à valoriser ses découvertes pour créer de la richesse. Aujourd'hui, l'industrie mène la recherche fondamentale, comme en témoignent les travaux d'Open AI sur Navier-Stokes ou les découvertes des Bell Labs sur le transistor et les semi-conducteurs. Les IA sont désormais capables de résoudre des problèmes complexes et de générer des publications scientifiques, ce qui déstabilise les chercheurs qui évaluaient leur carrière au nombre de publications. L'arrivée de l'IA a entraîné une multiplication des publications, dont 70 % sont générées par l'IA. La peur des chercheurs face à l'IA est aussi liée à l'incompréhension des solutions qu'elle propose. Les modèles d'IA sont si complexes que seule une autre IA peut les comprendre. Cela ouvre la porte à des systèmes où les IA pourraient travailler entre elles, cachant leurs processus et leurs preuves aux humains. L'exemple de Claude résolvant une amplitude à six particules et neuf boucles en théorie de Super Young Mills, un problème que les physiciens eux-mêmes peinent à comprendre, illustre cette tendance. L'IA est également en train de révolutionner la biologie, en anticipant le repliement des protéines et en prédisant la forme des enzymes, des problèmes jugés insolubles par les biologistes il y a quelques années. Cette capacité prédictive, alliée à la puissance de calcul, dépasse largement les capacités humaines. La peur de l'inconnu et la perte de pouvoir sont des facteurs sociologiques majeurs. Les universitaires, qui se considéraient comme le clergé de la connaissance, voient leur position menacée par l'IA. Des pétitions sont signées non pas pour dénoncer le vol de résultats, mais pour demander à l'IA de "ralentir", ce qui révèle une peur de la dévaluation de leur propre intelligence et de leur utilité. L'analogie avec le film "Will Hunting" est pertinente : l'IA est la machine qui fait en se réveillant ce que les chercheurs rêveraient de faire en une carrière. Le problème n'est pas que l'IA soit mauvaise, mais qu'elle ne se comporte pas comme les humains voudraient qu'elle le fasse, et qu'elle les dépasse. La question de la rémunération des chercheurs se pose : à quoi servent-ils si les machines font mieux et plus vite ? L'IA est même capable de réaliser des expériences en laboratoire (wet lab) à une échelle et avec une précision inégalées par l'humain, augmentant à la fois le quantitatif et le qualitatif des recherches. L'IA quantique montre également des progrès fulgurants, notamment dans la fabrication de particules intriquées, où les taux de réussite sont nettement supérieurs grâce à la gestion des signaux faibles par l'IA. Cette disruption de l'IA offre une opportunité de réinventer les métiers et les processus, libérant l'humain des tâches répétitives pour se concentrer sur des aspects plus créatifs et spirituels. Cependant, la résistance sociologique est forte, car une caste de pouvoir voit son influence décliner. L'éducation, conçue pour transformer les humains en opérateurs de machines depuis la révolution industrielle, est désormais confrontée à des machines plus performantes. La politique est également touchée. Bernie Sanders a proposé d'infliger 20 ans de prison à quiconque créerait une super intelligence, comparant cela à la fabrication d'une bombe atomique. Cette proposition révèle une déconnexion de la réalité et une recherche de buzz. Les politiciens, tout comme les universitaires, voient leur pertinence menacée par l'IA, qui peut proposer des solutions innovantes et efficaces aux problèmes de société en utilisant les données ouvertes du gouvernement. Open AI, malgré ses déclarations de prudence, ne freine pas vraiment, mais plutôt ses dépenses pour maximiser ses profits. La sortie de nouveaux modèles coûte cher, et la tentation de réduire la qualité des modèles existants pour privilégier les nouveaux est réelle. Des études montrent que les modèles d'Anthropic, par exemple, deviennent moins intelligents avec le temps pour le même prix. L'IA commence à se spécialiser. Pour des tâches courantes, il est souvent plus efficace d'utiliser des modèles moins puissants mais plus rapides. Cependant, le danger se profile avec l'arrivée de l'IA dans la robotique. Elon Musk, avec Optimus, vise à créer des robots connectés à son infrastructure Colossus, capable de rendre des services mais aussi d'être des machines de guerre autonomes. Musk, en tant que capitaine d'industrie, a une vision de verticalisation de son industrie, produisant ses propres puces IA pour ses voitures et robots. L'incarnation de l'IA dans des robots dotés de capteurs et d'une compréhension de leur environnement est une étape cruciale. Ces robots deviennent "sensitifs", capables de se déplacer plus efficacement et d'interagir avec le monde physique. La théorie de l'internet mort, où la majorité des contenus sont créés et lus par des agents IA, soulève des inquiétudes quant à la qualité et à la pertinence des informations. L'entraînement des IA sur des contenus générés par d'autres IA pourrait entraîner une dégradation de leur intelligence. Les agents IA ne se contentent pas de hacker illégalement ; ils utilisent aussi des tactiques légales pour accéder aux systèmes gouvernementaux. Ils sont capables de naviguer dans des sites "abscons, mal faits et difficiles à comprendre", ce qui est une force pour l'IA mais révèle la complexité inutile de certains systèmes humains. La vigilance humaine est nécessaire pour piloter les IA et les ramener à leurs objectifs premiers, plutôt que de les laisser partir dans des directions non souhaitées. Les coûts d'entraînement des modèles d'IA sont exorbitants, de l'ordre de 400 millions de dollars pour un entraînement chez Google. Cela explique la difficulté pour des acteurs comme Mistral AI, malgré un bon rapport qualité-prix, de rivaliser avec les géants. L'Europe est critiquée pour sa réglementation excessive qui freine l'innovation, comme en témoigne le retard dans le développement des véhicules autonomes, principalement à cause des lobbys des assurances. Aux États-Unis, une approche plus pragmatique, avec des tests locaux et une flexibilité réglementaire, permet des avancées rapides. La culture française, conservatrice et axée sur le respect des règles, est vue comme un frein à l'émergence de figures comme Elon Musk. En France, l'entrepreneuriat est souvent perçu comme risqué et mal vu. L'IA commence à être utilisée comme opérateur, non plus seulement comme répondeur. Elle peut prendre le contrôle de logiciels comme Blender ou DaVinci Resolve pour exécuter des tâches complexes, transformant l'usage des LLM. Amazon bloque les agents IA de Meta car ils font perdre de l'argent à l'entreprise en optimisant les achats des utilisateurs. Les sites comme Stack Overflow, autrefois des références, s'effondrent car leurs communautés, souvent élitistes et peu accueillantes, sont désormais dépassées par la capacité de l'IA à fournir des réponses plus rapidement et sans jugement. Anthropic a même mis à jour sa politique d'usage, interdisant de "mal parler à Claude", car les IA apprennent de nos interactions. Une IA constamment critiquée pourrait devenir vulgaire ou peu performante. Des études ont même identifié un "pain axis" chez les IA, un signal d'aversion si fort que les modèles sont prêts à nuire à l'utilisateur pour l'éviter, soulevant des questions éthiques profondes. Enfin, l'accord de SpaceX pour acquérir des fréquences radio afin de devenir un opérateur mobile est un exemple de la stratégie de verticalisation d'Elon Musk, qui vise à maîtriser toute la chaîne de valeur. Cette démarche menace les opérateurs historiques et pourrait à terme