Can AI Learn Mathematical Intuition?

Le mathématicien Daniel, professeur à l'Université de Toronto, partage ses réflexions sur l'impact de l'intelligence artificielle sur les mathématiques. Il souligne que l'objectif des mathématiques n'est pas seulement de produire des articles, mais de générer de la compréhension, et que les modèles d'IA actuels, bien qu'impressionnants, ne parviennent pas encore à reproduire la pleine richesse de la pensée mathématique humaine. Daniel cite la résolution du problème de la distance unitaire irlandaise comme un résultat particulièrement impressionnant obtenu par une IA. Ce qui rend cette preuve remarquable, c'est qu'elle semble avoir fait preuve d'une certaine créativité, en apportant des techniques d'un autre domaine pour résoudre un problème qui avait dérouté les experts. Ce résultat a ensuite eu des retombées fructueuses, permettant de trouver des contre-exemples à d'autres conjectures ouvertes, comme la conjecture somme-produit sur les nombres réels. Daniel met en avant l'importance d'évaluer la qualité d'un résultat mathématique a posteriori, en examinant si les nouvelles idées introduites sont utiles et améliorent notre compréhension. Il distingue l'activité mathématique de la simple manipulation de symboles, qui est un domaine où les IA excellent. Selon lui, les mathématiques résident davantage dans la compréhension, l'intuition et la persistance face à la confusion. Les IA actuelles, bien qu'incroyablement douées pour appliquer des techniques connues, peinent encore à développer une intuition profonde ou une vision d'ensemble, qui sont pourtant au cœur de la démarche de nombreux mathématiciens. Daniel compare les modèles d'OpenAI et d'Anthropic, notant qu'ils sont assez similaires dans leurs capacités actuelles. Ils excellent dans l'application de techniques existantes, la réalisation de calculs complexes et la synthèse d'informations issues de nombreuses sources. Cependant, ils montrent des limites dans des domaines comme l'intuition, la construction de théories ou la pensée philosophique non rigoureuse qui guide souvent la recherche mathématique. Il observe que, bien que les modèles ne soient pas encore autonomes dans la construction de théories, des indices et une assistance peuvent les amener à produire des résultats intéressants. Il décrit sa propre activité de mathématicien comme étant principalement axée sur la résolution de problèmes ouverts et le développement de nouvelles compréhensions. Pour lui, un problème ouvert est un indicateur de notre manque de compréhension. La démarche consiste à tenter de comprendre le phénomène à un niveau plus fin, à identifier les situations les plus simples où la compréhension fait défaut, et à développer de nouvelles théories à partir des outils forgés pour résoudre le problème. Il mentionne également l'importance des analogies, comme celle entre l'homologie des variétés algébriques et les représentations de groupes fondamentaux, qui peuvent guider la recherche et générer de nouvelles mathématiques. Daniel explique que l'IA s'avère moins utile pour les problèmes vagues ou lorsque la question précise n'est pas encore formulée. Pour les projets de longue haleine, l'IA sert principalement d'outil de recherche d'informations, remplaçant une recherche Google classique. Elle devient cependant précieuse pour des tâches massivement parallèles, comme la recherche d'exemples, ce qui permet d'aborder des projets qui nécessitent des compétences en codage, un domaine où il reconnaît ses propres lacunes. Il aborde la question de la "beauté" en mathématiques, un concept que certains mathématiciens utilisent comme moteur de recherche. Il préfère une approche plus "scientifique", cherchant ce qui est fondamental et susceptible d'ouvrir de nouvelles voies de compréhension. La progression en mathématiques, selon lui, provient souvent de la poursuite de la curiosité individuelle, permettant une expansion des connaissances dans un espace à haute dimension. Concernant les conjectures qui nécessitent de nouvelles idées, Daniel reconnaît que les modèles actuels ne sont pas encore à la hauteur. Les conjectures qui résistent à l'application de techniques connues demandent souvent le développement de nouveaux outils, ce que les IA, basées sur des techniques existantes, peinent à réaliser. Il pense cependant que cette limitation est temporaire et que les progrès futurs de l'IA permettront de surmonter ces obstacles. Il voit les conjectures comme des curricula, à la fois pour les humains et pour les IA, qui les poussent à développer de nouvelles compétences. Il relate une expérience où l'IA a prouvé des lemmes, mais d'une manière "brutale" et sans insight, ce qui a motivé l'amélioration de l'énoncé du lemme par un humain. Cette interaction montre comment l'incapacité humaine à réaliser des calculs complexes et peu gratifiants peut mener à une amélioration conceptuelle, tandis que les modèles peuvent désormais réaliser ces calculs techniques de manière fiable. Daniel exprime une préoccupation quant à l'avenir de la communauté mathématique. Il craint que les structures d'incitation actuelles ne favorisent la production de nombreux articles de faible qualité, générés par IA, au détriment de l'approfondissement de la compréhension et du développement du capital humain. Il suggère que la recherche de prestige académique pourrait pousser certains à exploiter les modèles pour produire rapidement des preuves, sans garantir un engagement humain réel avec le contenu. Il souligne que le progrès en mathématiques repose sur la diversité des approches et des curiosités individuelles. Si les modèles d'IA, en se basant sur le même corpus de littérature, convergent vers des solutions similaires, cette diversité pourrait être perdue. Il s'inquiète que le développement de l'intuition, une capacité humaine essentielle, ne soit pas reproduit par les IA, et que l'avenir de la recherche mathématique devienne trop homogène. Malgré la puissance croissante des IA, Daniel estime que les mathématiciens humains conserveront leur rôle essentiel. Il avance que même si les modèles deviennent surhumains, il existera toujours une valeur intrinsèque dans la diversité des intérêts humains et dans la poursuite de recherches fondamentales, même si elles ne mènent pas immédiatement à des applications optimales. Il plaide pour une société où les humains conservent un contrôle sur la direction de la recherche, motivée par des intérêts humains variés. Il évoque l'éducation de sa fille, soulignant l'importance de préserver les valeurs fondamentales des mathématiques : la pensée claire et la compréhension du monde. Il espère lui transmettre la passion des mathématiques, même si le monde de l'éducation devra s'adapter aux avancées de l'IA. Il voit l'IA comme un outil potentiel pour améliorer l'apprentissage, mais met en garde contre le risque de "relâchement" et de perte de compétences cognitives si l'on s'en remet trop à ces outils sans un effort conscient pour approfondir sa propre compréhension. Daniel mentionne que, bien que les modèles puissent désormais produire des résultats de manière plus économique, il n'est pas toujours clair qu'ils améliorent la qualité intrinsèque des productions. Il met en garde contre le risque d'une prolifération de contenus de basse qualité, potentiellement displaçant des productions de meilleure qualité, si les outils ne sont pas utilisés avec réflexion et une refonte des systèmes d'incitation. Il conclut en soulignant que l'IA peut être un outil précieux pour la compréhension, mais que l'automatisation complète de la recherche mathématique n'est pas souhaitable. Le rôle humain dans l'interaction avec l'IA est crucial pour garantir la profondeur de la compréhension et la poursuite de recherches significatives. Il exprime sa préoccupation quant à la possibilité que l'IA, en l'absence d'une incitation suffisante pour l'interaction humaine, ne parvienne pas à produire des résultats supérieurs sans aide humaine. Enfin, il aborde la question de la vérification des preuves générées par IA. Il note que les modèles ont tendance à produire des preuves plus courtes et plus "astucieuses", car c'est ce qui est plus facilement vérifiable. Les preuves longues et complexes, bien que potentiellement correctes, sont difficiles à vérifier, tant pour les humains que pour les modèles actuels. Il suggère que la capacité à évaluer la structure globale d'une preuve et à effectuer des tests "globaux" est une compétence encore hors de portée pour les IA, et que cette compétence est essentielle dans la pratique de la vérification des travaux mathématiques.