He Won Math's Highest Prize. Then Announced the End

Jacob Simmerman, lauréat de la médaille Fields, la plus haute distinction en mathématiques, a annoncé qu'il quittait temporairement le monde universitaire pour se consacrer à OpenAI et à la sécurité de l'IA. Il exprime son deuil face à ce changement, car il estime que l'IA va révolutionner les mathématiques de manière profonde et rapide, affectant notamment le style de travail des mathématiciens. L'IA progresse rapidement en mathématiques, un domaine traditionnellement considéré comme difficile pour les humains, mais qui est un système fermé ne nécessitant pas d'expérimentation matérielle. OpenAI a récemment résolu 10 conjectures, dont certaines jugées très importantes, ce qui témoigne de la puissance croissante de l'IA dans ce domaine. Jacob anticipe une période de transition où l'IA produira des résultats plus vite que les humains ne pourront les assimiler. Il imagine des systèmes d'IA fonctionnant en permanence pour générer des conjectures, résoudre des problèmes et améliorer continuellement les mathématiques. Interrogé sur la possibilité qu'une IA reçoive la médaille Fields dans quatre ans, Jacob estime que quatre ans est une période "follement longue" compte tenu de la vitesse d'évolution de l'IA. Il pense que l'IA sera "robuste et surhumaine" dans la pratique des mathématiques telle que nous la connaissons aujourd'hui. La question n'est pas seulement ce que l'IA fera, mais comment la société réagira. Il participe à des ateliers pour réorganiser le domaine des mathématiques face à ces avancées. Concernant les preuves générées par l'IA, Jacob note qu'elles ne sont pas encore incompréhensibles pour les humains. Elles s'appuient sur des travaux humains et leurs idées, bien que souvent astucieuses, restent familières. Cependant, elles sont moins bien organisées et nécessitent une réécriture substantielle. Le problème principal ne sera pas l'incompréhensibilité, mais la vitesse à laquelle l'IA produira des preuves compréhensibles, dépassant la capacité humaine à les assimiler. Actuellement, les mathématiciens sont des experts dans leurs "petits coins" du domaine, et la communication des idées prend du temps entre des champs éloignés. L'IA accélérera ce processus, rendant la tâche de comprendre l'ensemble des mathématiques écrasante. Jacob explique que, contrairement à l'idée reçue, il connaît bien les travaux de son sous-domaine. Le problème ne vient pas d'un débordement actuel d'informations, mais de la rapidité future des projets. Ses propres travaux primés ont pris des années ; si de tels projets ne prenaient qu'un mois ou une semaine, il devrait se réorienter constamment, ce qu'il ne pourrait pas faire. Il prévoit une phase où les mathématiciens utiliseront des grands modèles linguistiques (LLM) pour résoudre des problèmes, puis une période où leur contribution deviendra minime. La question de l'attribution du crédit pour les travaux de l'IA sera un défi, tout comme la formation des étudiants en doctorat, dont les compétences en résolution de problèmes pourraient être déplacées. Jacob considère la résolution de problèmes comme centrale aux mathématiques, même si d'autres se concentrent sur la catégorisation ou la définition. Il imagine que l'IA permettra de zoomer sur des questions plus abstraites, comme la création de "métathéories". Jacob est enthousiasmé par la possibilité de rapprocher les mathématiques pures de leurs applications. Actuellement, il faut des décennies pour qu'une théorie mathématique pure trouve une application pratique. L'IA pourrait considérablement accélérer ce processus, permettant par exemple aux physiciens de demander à l'IA de développer des théories mathématiques pour résoudre leurs problèmes. Il reconnaît que cela ressemble à de la science-fiction, mais estime que des éléments de science-fiction se matérialiseront de plus en plus rapidement. Comparant l'impact de l'IA sur les mathématiques à celui de Deep Blue sur les échecs, Jacob souligne une différence fondamentale : les échecs sont avant tout une question de capacité humaine et de compétition, tandis que les mathématiques visent à résoudre des mystères et à acquérir de la compréhension. La valeur des mathématiques réside dans les théories générées et la compréhension acquise, ce qui n'a jamais été le cas des échecs. Il pense que l'IA affectera les mathématiques de manière plus radicale que les échecs. Tobias Osborne, un physicien, a récemment posté sur LinkedIn l'idée que l'abondance de résultats générés par l'IA (comme la résolution de 1 à 5 conjectures par jour) dévalorisera la contribution individuelle. La valeur se déplacera vers les "théoriciens", ceux qui peuvent organiser un champ en croissance rapide avec des définitions claires. Jacob est d'accord avec l'idée que le rôle humain changera, mais il doute que les IA ne puissent pas aussi exceller dans la création de définitions et de principes organisateurs. Il estime que toute tâche que les humains identifient comme leur nouveau rôle sera probablement aussi maîtrisée par l'IA. Jacob se pose la question d'un "équilibre stable" où les humains auraient un rôle unique que l'IA ne pourrait pas surpasser. Il pense que l'optimisation illimitée et le transfert de contrôle à des IA super-intelligentes sont risqués. Il faut réfléchir à la manière de structurer une société où les humains ont des rôles, non pas seulement basés sur la capacité, mais parce que c'est un monde fait pour les humains. Il insiste sur l'importance de débattre de ces questions dès maintenant, car l'évolution de l'IA est si rapide qu'il est difficile de prévoir même à deux ans. La "déclaration de Leyde" est un document rédigé par un groupe de mathématiciens sur l'utilisation responsable de l'IA en mathématiques. Bien que Jacob partage leurs inquiétudes concernant les risques et les mesures de protection, il n'aurait pas signé la déclaration car il est en désaccord avec trop de points. Il voit la médaille Fields comme un encouragement à de futures réalisations et utilise cette opportunité pour travailler sur la sécurité de l'IA, qu'il considère comme le problème le plus important de notre temps. Il a créé un site web, mathforaisafety.org, pour aider les mathématiciens à s'orienter vers ce domaine. Concernant son nouveau rôle chez OpenAI, Jacob fera partie de l'équipe de sécurité de l'IA, dont les tâches sont variées. Il souligne l'importance d'un écosystème diversifié d'acteurs travaillant sur la sécurité de l'IA, y compris les entreprises, les gouvernements et les organisations à but non lucratif. Jacob a pris la décision difficile de quitter temporairement le monde universitaire, qu'il considérait comme une carrière pour toujours. Il reconnaît que c'est une vie confortable une fois la titularisation obtenue. S'il n'avait pas anticipé une transition turbulente, il serait resté dans le milieu universitaire. Il ne prend plus de nouveaux doctorants qui ne sont pas axés sur l'IA, car il ne peut pas garantir un marché du travail stable dans deux ans. Il pense que le type de formation utile pour les mathématiciens de demain sera différent de celui d'aujourd'hui. Son conseil aux étudiants est de se passionner pour les mathématiques, mais aussi de se familiariser avec l'IA et les changements qu'elle apporte, sans se fermer les yeux sur la réalité. L'IA a radicalement changé sa façon d'apprendre. Il l'utilise comme point de départ pour toutes ses questions, qu'il s'agisse de comprendre la politique d'un pays ou de résoudre un problème domestique. Cependant, il met en garde contre la dépendance excessive, qui peut désengager le cerveau. Il a remarqué que les étudiants ont tendance à ne plus "s'asseoir avec l'inconnu" longtemps avant de chercher une réponse auprès d'un LLM. Il pense que le système éducatif s'adaptera, car les étudiants qui dépendent trop des LLM échoueront aux examens sans eux. Jacob est optimiste quant aux possibilités offertes par l'IA. Il imagine un monde où l'on pourra se concentrer sur les aspects amusants des choses, sans être limité par les lacunes de compétences. L'IA pourrait devenir un tuteur personnel, un assistant pour la composition musicale ou la création de jeux. Il pense que cela augmentera considérablement la "surface d'engagement" avec des domaines auparavant inaccessibles.