Laurent Alexandre vs Samuel Fitoussi : qui a raison sur l'IA ?

La semaine dernière, OpenAI a publié plus de 700 manuscrits prétendant résoudre des problèmes mathématiques ouverts, utilisant un modèle inédit. La réaction des mathématiciens a été forte, certains, comme Hugo Duminil, médaillé Fields, exprimant une profonde tristesse et un sentiment d'humiliation. Sur les réseaux sociaux, Laurent Alexandre et Samuel Fitoussi ont débattu de la situation. Laurent Alexandre ne voit pas cette annonce comme une humiliation ni la mort des mathématiciens. Il estime que leur réaction est excessive et qu'ils devraient plutôt s'adapter en devenant des "trieurs d'hypothèses" ou en se tournant vers les mathématiques appliquées. Il critique le pessimisme qu'il juge "névrotique" de certains mathématiciens français, contrastant avec l'approche chinoise qui vise à utiliser l'IA pour avancer plus vite. Il reproche aux intellectuels en général de ne pas s'être préparés au "tsunami technologique". Samuel Fitoussi perçoit la situation différemment. Il interprète la tristesse des mathématiciens comme la réalisation soudaine que leur travail de décennies pourrait devenir inutile. Il refuse de se moquer de leur désarroi, comparant leur situation à celle des ouvriers dont les métiers ont été automatisés. Fitoussi critique l'idée que les mathématiciens devraient simplement s'adapter, arguant que si l'IA générale (AGI) est atteinte, elle fera mieux que les humains dans tous les domaines, y compris la recherche mathématique, rendant toute complémentarité illusoire. Il dénonce une forme de "maoïsme" sur les réseaux sociaux, où certains techno-optimistes se réjouissent du déclassement des grands esprits. Pour lui, la réussite des mathématiciens n'est pas une rente mais le fruit d'un travail acharné, et la société a besoin de mathématiciens, pas seulement de connaissances mathématiques produites par l'IA. Il craint un effondrement du nombre de nouveaux doctorats en mathématiques et exprime une mélancolie face à la disparition du champ humain de la recherche. Il rejette l'analogie avec les échecs, où le but est de battre un adversaire humain, alors qu'en mathématiques, le but est de découvrir la vérité, un objectif que l'IA rend caduc pour les humains. Laurent Alexandre insiste sur l'impréparation des institutions et des corps sociaux face à l'IA. Il cite Bill Gates, affirmant qu'aucune institution n'est prête. Il exprime sa colère envers les mathématiciens qui n'ont pas anticipé ce choc, notamment en ce qui concerne l'avenir des doctorants et des post-doctorants. Il estime qu'ils auraient dû y réfléchir il y a cinq ans, au lieu de "pleurnicher". Il mentionne une conversation avec Cédric Villani, qui a reconnu n'avoir pas vu le choc arriver. Laurent Alexandre insiste sur le fait qu'il ne faut pas laisser les médaillés Fields freiner la science, car le "protectionnisme intellectuel" ne fonctionnera pas. Le débat aborde ensuite l'expérience de pensée de Terence Tao sur un remède contre le cancer découvert par une IA incompréhensible pour les humains. Samuel Fitoussi explique que Tao souligne la valeur de la compréhension humaine de la connaissance scientifique, non seulement la connaissance elle-même. Il argue qu'il est préférable qu'un humain puisse comprendre ce que l'IA raconte, même si le remède doit être utilisé en cas d'urgence. Laurent Alexandre répond qu'en médecine, de nombreux médicaments efficaces sont utilisés sans que leur mécanisme physiopathologique soit parfaitement compris, l'efficacité étant le critère essentiel. Il affirme que l'on atteint les limites de la connaissance humaine et qu'il faudra faire confiance à l'IA, qui va nous dépasser. Il mentionne l'augmentation du QI des IA et la probabilité que la majorité des découvertes de l'IA ne soient pas compréhensibles par les humains d'ici 5 à 10 ans. En médecine, l'IA, étant holistique, est supérieure aux médecins humains dont la connaissance est limitée par les spécialisations. Samuel Fitoussi est d'accord sur le fait que l'on entrera dans un monde où l'on ne comprendra plus l'IA et qu'elle fera des découvertes exceptionnelles, y compris médicales, ce qui est réjouissant. Il pose la question fondamentale : la science doit-elle maximiser les connaissances ou préserver le bonheur des savants ? Il estime que la compassion devrait être davantage dirigée vers les classes sociales moins privilégiées qui seront confrontées à des difficultés d'adaptation, plutôt que vers les médaillés Fields, qui sont très intelligents et sauront se réinventer. Le présentateur suggère que les deux débatteurs sont à des étapes différentes d'un processus de deuil face à l'IA : Laurent Alexandre dans l'acceptation, les mathématiciens dans la colère, et Samuel Fitoussi dans la dépression. Samuel réfute cette "psychanalyse de comptoir", affirmant que son objectif est de raisonner correctement et de ne pas nier les effets pervers de l'IA, même si le bilan global est positif. Il estime qu'il est absurde de nier la perte de certaines choses, même si le progrès est bénéfique. Laurent Alexandre, de son côté, souligne que la recherche en cancérologie ne devrait pas être freinée par le confort des chercheurs, et que la pétition de certains médaillés Fields demandant un ralentissement de la recherche en IA mathématique est intenable. Samuel Fitoussi conclut en soulevant un problème majeur : les 700 manuscrits ont été produits par une IA privée, non publique. Cela signifie que la recherche mathématique pourrait devenir l'apanage des géants de l'IA, limitant l'accès des chercheurs académiques aux outils les plus avancés et menaçant la recherche académique. Cette opération est perçue comme un recrutement forcé des mathématiciens par les laboratoires d'IA.