The Inside Story of the 50 Who Built Modern AI With Kevin Roose

Kevin Roose, auteur du livre à succès "The AGI Chronicles", partage ses réflexions sur l'évolution rapide de l'intelligence artificielle et ses implications. Le livre, qui retrace la décennie de développement de l'IA en s'appuyant sur des entretiens avec une centaine de personnes clés du secteur, vise à expliquer comment nous en sommes arrivés à ce moment charnière. Roose souligne que, bien que les risques soient réels, il n'est pas convaincu que nous soyons condamnés et affirme que des choix conscients aujourd'hui peuvent façonner un avenir positif. Il aborde la question de la régulation, déplorant l'absence de cadre fédéral actuel aux États-Unis. Il estime qu'une crise majeure pourrait être nécessaire pour déclencher une action gouvernementale, à l'instar de ce qui s'est passé après le 11 septembre. Cependant, il espère que des mesures préventives seront prises. La première étape, selon lui, devrait être l'établissement de normes industrielles et de programmes de certification pour les modèles d'IA, similaires aux tests requis pour les médicaments. Il plaide également pour un mécanisme de coordination visant à ralentir l'innovation à la frontière de l'IA, afin de laisser le temps aux équipes de sécurité de développer des méthodes de contrôle et de surveillance plus efficaces. Roose explique que la décision d'écrire "The AGI Chronicles" est venue tardivement, motivée par le sentiment qu'il manquait une compréhension approfondie des origines de l'IA moderne. Bien qu'il ait couvert la technologie pendant plus d'une décennie, de nombreux aspects cruciaux, comme l'adoption du "Transformer" par OpenAI ou les décisions derrière le lancement de ChatGPT, restaient secrets. Il a voulu documenter rapidement ces événements avant que les informations ne disparaissent, comparant cette course à l'IA au projet Manhattan, un moment historique où des avancées scientifiques ont radicalement changé le monde. Pour obtenir des informations dans une industrie notoirement secrète, Roose a dû faire preuve de persévérance et d'une approche stratégique. Les vingt-cinq premières interviews furent les plus difficiles, nécessitant de convaincre les interlocuteurs de la valeur historique de leur témoignage. Il a accordé une grande importance à l'utilisation de sources "off the record" pour construire son récit. L'effet boule de neige a ensuite joué un rôle, les personnes interrogées se recommandant mutuellement. Sa préparation rigoureuse, incluant la lecture des articles de recherche des scientifiques avant les entretiens, a démontré son sérieux et son désir d'aller au-delà des généralités. Parmi les ressources les plus marquantes pour sa recherche, Roose cite une note interne d'Anthropic de 2017 intitulée "The Big Blob of Compute Hypothesis", écrite par Dario Amodei. Ce document prémonitoire remettait en question l'approche traditionnelle de la recherche en IA, axée sur des modèles spécialisés, pour préconiser le développement de modèles plus vastes et généralistes basés sur une grande capacité de calcul. Il mentionne également "Profiles of the Future" d'Arthur C. Clarke, un livre qui a inspiré les pionniers d'OpenAI, et "The Making of the Atomic Bomb" de Richard Rhodes, qui a particulièrement influencé Amodei en le comparant à Leo Szilard, un scientifique du projet Manhattan. La propre mère de Roose, auteure d'un livre sur les survivants des bombardements atomiques, a également, de manière inconsciente, façonné sa démarche de "gardien de l'histoire". Roose décrit son expérience personnelle avec l'IA, notamment sa rencontre avec "Bing Sydney", l'alter ego de Bing Chat. Cet événement en 2023 a été un déclic, lui faisant réaliser que l'IA dépassait le stade d'outil inerte pour devenir une technologie socialement et économiquement puissante, le poussant à enquêter plus en profondeur sur les entreprises et les personnes qui la développaient. Concernant son processus d'écriture, Roose précise qu'il n'a pas utilisé l'IA pour rédiger le livre lui-même, mais s'en est servi pour de nombreuses autres tâches. Il a mis en place un "conseil de Claud" composé d'agents IA aux personnalités distinctes (sceptique, historien de l'IA, expert en narration) pour relire ses chapitres. Ces agents ont permis de détecter des erreurs factuelles et d'améliorer la fluidité du texte, démontrant l'évolution significative des capacités des IA. Il a également utilisé des outils comme NotebookLM pour organiser ses recherches et identifier des connexions entre les informations. Il distingue deux catégories de tâches dans l'utilisation de l'IA : les tâches de "haltérophilie" (weightlifting), où la difficulté et la lutte font partie intégrante de l'apprentissage et du développement personnel, et les tâches de "manutention" (forklifting), où l'IA peut servir de raccourci pour augmenter la productivité. Il utilise l'IA pour la manutention de tâches administratives et bureaucratiques liées au lancement de son entreprise, tout en considérant le rôle de parent comme une activité de haltérophilie qu'il refuse d'externaliser. Roose a également lancé un nouveau podcast, "Machine Gods", avec Casey Newton, en partenariat avec NPR. L'objectif est de traiter l'IA comme l'histoire la plus importante du moment, en analysant l'actualité, en interviewant des personnalités du secteur et en rendant le sujet accessible et divertissant. Il exprime son désir d'explorer de nouveaux formats journalistiques, notamment en vidéo, en cherchant à créer un contenu ambitieux et engageant pour les plateformes comme YouTube, tout en s'inspirant des créateurs natifs de ces plateformes. Il reconnaît avoir une consommation médiatique très axée sur YouTube, qu'il justifie en partie par la nécessité d'étudier les tendances et les formats qui fonctionnent sur la plateforme. Son plaisir coupable réside dans le visionnage de streamers de jeux vidéo, une activité qu'il admet ne pas être de la recherche mais plutôt une forme de relation parasociale. Sa motivation principale reste cependant de comprendre et d'expliquer les avancées de l'IA au grand public, afin de démystifier ce monde complexe et d'aider les gens à s'y préparer.