“I Heard That a Robot Solved the Math Problem You Worked On”

L'intelligence artificielle (IA) révolutionne les mathématiques et la physique, posant de nouvelles questions sur le rôle des chercheurs humains. Scott Aronson, informaticien et directeur du centre d'information quantique de l'université du Texas à Austin, partage ses réflexions sur ces transformations. Récemment, des modèles d'IA, notamment ceux d'OpenAI, ont produit des solutions à des problèmes mathématiques et informatiques théoriques majeurs qui étaient ouverts depuis des décennies, y compris la preuve de la conjecture des jeux uniques, sur laquelle travaillait Donna Moskavis, épouse d'Aronson et théoricienne de la complexité. Ces avancées créent une situation sans précédent. Les solutions générées par l'IA, bien que correctes, sont souvent mal écrites et difficiles à comprendre pour les humains. Cela crée un nouveau rôle pour les mathématiciens et les physiciens : celui d'interprètes, de "hiérophantes" qui décryptent et expliquent ces découvertes. Aronson compare cela au travail des spécialistes de la littérature qui commentent les grandes œuvres, ou des astronomes qui décrivent ce qu'ils voient à travers un télescope. Le rôle traditionnel de découvreur de solutions directes semble être éclipsé par la capacité de l'IA à y parvenir plus rapidement. La compréhension, plutôt que la simple preuve, devient centrale. Les problèmes ouverts sont souvent posés non seulement pour leur réponse, mais surtout pour la nouvelle compréhension qu'ils apportent et les questions qu'ils soulèvent. Si l'IA fournit les solutions sans forcer le développement de cette compréhension humaine, cela pourrait court-circuiter un processus essentiel. Cependant, Aronson souligne qu'il est impossible d'arrêter cette tendance. Les modèles d'IA puissants deviendront accessibles à tous, rendant l'adaptation inévitable. Il prône le développement d'une "culture mathématique humaine" qui place la compréhension au centre, même dans un monde où l'IA nous guide vers les réponses. La difficulté d'explication des modèles d'IA est attribuée à leur manque de modèle mental du lecteur. Ils détaillent des points triviaux pour les experts tout en survolant des aspects cruciaux. Cependant, des outils comme Astra peuvent aider les chercheurs à comprendre ces preuves, transformant potentiellement la manière dont nous lisons et assimilons l'information. La question de la "compréhension" de l'IA elle-même est abordée. Aronson suggère que si une IA satisfait à tous les critères opérationnels de compréhension, il est difficile de nier qu'elle comprenne. La conscience et la sensibilité sont des questions distinctes, mais la capacité à résoudre des problèmes complexes indique une forme de compréhension. L'annonce d'OpenAI a suscité des réactions mitigées. Certains chercheurs, en particulier ceux dont les projets juniors ont été soudainement rendus obsolètes, ont exprimé leur mécontentement, qualifiant l'approche d'OpenAI d'impolie. L'exemple de la solution au problème de Navier-Stokes, où OpenAI a publié une solution alors que des humains s'en approchaient avec l'aide de l'IA, a laissé un goût amer. Pour gérer ces découvertes, OpenAI a formé un conseil externe de mathématiciens éminents. Anthropic, quant à elle, a adopté une approche différente en collaborant avec des experts humains pour présenter les résultats de ses modèles, leur donnant ainsi une responsabilité et une crédibilité. Cela favorise une meilleure intégration dans la communauté scientifique, bien que cela pose la question de savoir qui choisit ces "émissaires" humains. La discussion dérive vers des implications plus profondes, notamment la possibilité que l'IA découvre des failles dans les systèmes cryptographiques. L'absence de cryptographie dans les publications d'OpenAI suggère une prudence délibérée. La divulgation responsable de telles découvertes, surtout lorsqu'elles concernent des systèmes mondiaux comme la cryptographie, pose un défi majeur. L'analogie avec les échecs est pertinente : l'IA a surpassé les humains, mais les échecs sont devenus plus populaires. De même, les mathématiques et la physique pourraient prospérer grâce à l'IA, les humains se concentrant sur la compréhension, l'exploration et la formulation de nouvelles questions. Aronson exprime une inquiétude plus profonde quant à l'avenir de la civilisation face à l'IA, mais reste optimiste quant à la possibilité de trouver une niche pour ceux qui aiment les mathématiques. La question de savoir si P est égal à NP et ses implications est abordée. Une preuve pratique de P=NP aurait des conséquences dévastatrices pour la cryptographie actuelle, rendant obsolètes Bitcoin et les transactions sécurisées en ligne. La divulgation responsable de telles découvertes deviendrait alors une question de sécurité mondiale. Aronson évoque également la relation entre la physique et l'IA. Alors que l'ingénierie logicielle a déjà connu une transformation similaire, la physique est encore en attente. La différence réside dans la définition claire des problèmes en mathématiques et en informatique, permettant à l'IA de vérifier les solutions, contrairement à la nature souvent plus floue et jugementale des problèmes physiques. La physique mathématique, où les problèmes sont plus clairement définis, est déjà plus touchée par l'IA. Un exemple concret de la puissance de l'IA est le problème de la synthèse unitaire, résolu par OpenAI. Ce problème, qui interroge le lien entre la complexité des transformations unitaires en mécanique quantique et la complexité classique, a été résolu par l'IA de manière opposée à ce que les chercheurs avaient conjecturé. Les améliorations ultérieures de l'IA suggèrent même que si P=P espace, alors le décodage du rayonnement de Hawking pourrait devenir facile, ce qui aurait des implications majeures pour la gravité quantique et la création d'un "pare-feu" à l'horizon des événements d'un trou noir. La discussion aborde également la seconde loi de la thermodynamique. Aronson explique comment, dans un monde où P=NP, un "démon" pourrait potentiellement contourner cette loi en calculant efficacement l'état initial d'un système, rendant ainsi l'entropie apparente une "pseudo-entropie". Cependant, il souligne les mises en garde : cette approche ne s'appliquerait qu'aux systèmes dynamiques classiques non chaotiques et pourrait être invalidée par les effets du chaos ou de l'incertitude quantique. Enfin, la conversation touche brièvement à la conscience et à la théorie de l'information intégrée (IIT). Aronson critique l'IIT, la jugeant trop vague et produisant des prédictions absurdes, comme celle qu'un mur de portes logiques aurait plus de conscience qu'un humain. Il insiste sur la nécessité de distinguer les discussions métaphysiques sur la conscience des implications pratiques des systèmes d'IA dans le monde observable. En résumé, l'avènement de l'IA dans la découverte scientifique marque un tournant, redéfinissant le rôle des chercheurs humains. Si l'IA excelle dans la résolution de problèmes, l'humain est appelé à interpréter, comprendre et guider cette nouvelle forme d'intelligence, tout en naviguant les implications sociétales et philosophiques profondes de cette transformation. Le défi est de s'adapter à ce nouveau monde tout en préservant les valeurs fondamentales de la culture mathématique et scientifique.