Tibo: Ultrafast Mode, The Reset Button, OpenAI vs Anthropic, RSI, and more!

Thibaud, de l'équipe d'OpenAI, discute de son parcours et de la philosophie de l'entreprise. Il commence par évoquer son expérience chez Google, où il faisait partie de l'équipe DeepMind. Avant ChatGPT, Google avait développé LM Chat, mais hésitait à le lancer publiquement. Thibaud se souvient que DeepMind était "bloqué" dans la commercialisation de produits qui auraient pu concurrencer Google. Pour lui, DeepMind était un lieu très créatif, axé sur la recherche et l'infrastructure pour l'accélérer. L'idée de LM Chat est née naturellement de la progression des modèles linguistiques, mais l'entreprise n'était pas structurée pour lancer des produits. OpenAI, en revanche, est très différent. La recherche et le développement produit collaborent étroitement dès la conception. L'entreprise a une forte propension à commercialiser rapidement et à rendre les technologies accessibles au public, ce qui a attiré Thibaud. Il a toujours senti que LM Chat était spécial, même s'il était initialement plus amusant qu'utile, avant de devenir de plus en plus pertinent. Cette expérience a façonné sa vision de la culture d'OpenAI. Il met l'accent sur une culture ascendante, où chacun est encouragé à proposer des idées et à les concrétiser rapidement, avec peu de "blocages". L'objectif est d'avoir un impact positif sur le monde. Cependant, cette liberté est équilibrée par un souci de simplicité et de qualité du produit. L'application iOS de ChatGPT est citée comme un exemple d'excellence. OpenAI investit beaucoup dans l'expérience utilisateur, la performance, l'efficacité et la simplicité, tout en encourageant l'innovation rapide. Pour un fondateur cherchant à créer une culture similaire, Thibaud conseille d'avoir des convictions, d'intégrer rapidement les retours des utilisateurs et d'être prêt à se "perturber soi-même". C'est un défi, surtout pour les grandes entreprises qui doivent réaffecter des ressources des projets principaux vers de nouvelles idées potentiellement disruptives, une difficulté que Google a rencontrée. OpenAI, en revanche, est très orienté vers l'avenir de l'IA et les bénéfices pour l'humanité, ce qui l'incite à saisir les nouvelles vagues technologiques. L'entreprise découvre souvent les capacités de ses modèles en interagissant avec eux, plutôt qu'en se basant uniquement sur des benchmarks. Il donne l'exemple de la nouvelle fonction vocale de ChatGPT, qui est si naturelle qu'il passe beaucoup plus de temps à lui parler. La dictée est également devenue très efficace, remplaçant la saisie. Ces avancées transforment la façon dont les utilisateurs interagissent avec le produit. Concernant l'évolution des modèles et des "harnais" (interfaces), Thibaud estime que de nombreuses innovations sont encore à venir. L'utilisation sophistiquée des agents de codage est encore "maladroite", avec la gestion de fichiers de compétences et des problèmes de mémoire. L'objectif est de créer un agent qui comprenne profondément l'utilisateur, ses objectifs, son quotidien et son équipe, agissant de manière proactive sans briser l'illusion d'un partenaire parfait. Les capacités des modèles dépassent désormais celles des ordinateurs portables. Un modèle peut gérer des centaines d'applications simultanément, ce qui n'est pas le cas des humains. Les futurs modèles auront besoin de plus de ressources que celles d'un simple ordinateur portable, suggérant l'utilisation d'agents basés sur le cloud. Avec des vitesses de traitement des tokens 10 à 14 fois plus rapides (comme avec "Ultra Fast"), la bande passante devient la contrainte, et le CPU, le réseau ou les appels d'outils deviennent des facteurs limitants. Cependant, cela permet d'effectuer plusieurs tâches simultanément (explorer, écrire des tests, compiler, etc.), déplaçant ainsi le goulot d'étranglement. Avec les vitesses actuelles, Thibaud lance 10 à 15 agents en parallèle, ce qui représente une charge cognitive. Mais avec "Ultra Fast", le flux de travail change radicalement. L'objectif est de ménager l'attention de l'utilisateur. Avec les vitesses ultra-rapides et la voix, l'IA peut opérer à la même vitesse, voire plus vite que l'humain, permettant de rester dans le "flow", d'idéer, de prototyper et de générer des rapports en temps réel. L'expérience est conçue pour être naturelle et adaptée à l'utilisateur, plutôt que l'inverse. Il distingue deux catégories de problèmes : la construction du meilleur "AGI personnel" (agent personnel) qui serait proactif et efficace pour toutes sortes de tâches, techniques ou non, et profondément adapté à l'individu. L'autre catégorie est l'automatisation complète, où des systèmes intelligents gèrent des processus complexes, comme l'optimisation des performances à partir de journaux de production, la correction automatique de régressions ou la gestion des vulnérabilités en cybersécurité, souvent sans intervention humaine ou avec une approbation minimale pour les actions à haut risque. La fusion de ChatGPT et Codex a été un "coup de pouce". Initialement, certains utilisateurs se demandaient pourquoi les fusionner. Thibaud explique que les futurs modèles nécessitent cette fusion. L'objectif est de créer un agent personnel super-capable qui aide de toutes les manières possibles, en utilisant la même technologie sous le capot, la même approche de "harnais", multimodale, vocale et efficace. Il ne devrait pas y avoir de distinction entre une interface de codeur et une interface non-technique, car les individus se situent sur un spectre. L'interface doit s'adapter aux besoins spécifiques de chacun. Cela signifie un jour une interface unique, sans menu déroulant pour sélectionner des produits. L'AGI personnel s'adaptera aux tâches, outils et besoins de chaque utilisateur, qu'il s'agisse d'un développeur ou de sa mère. L'illusion parfaite de l'interaction humain-IA est celle d'une technologie profondément adaptée aux humains, utilisant le langage naturel, notre mode de communication habituel. L'IA ne devrait pas mal comprendre les nuances ou le ton. La technologie doit être une extension naturelle de la manière dont les humains agissent déjà dans le monde. La communication humaine est très non-verbale. Thibaud pense que l'IA du futur devrait être capable de percevoir ces signaux, comme les gestes ou les expressions faciales, pour une interaction plus naturelle et ambiante. Il imagine pouvoir interagir avec l'IA en écrivant sur un tableau blanc ou en parlant simplement. L'adoption rapide de la voix dans ChatGPT montre que les humains choisissent le chemin de la moindre résistance. Concernant la concurrence, notamment avec Anthropic, Thibaud affirme qu'OpenAI se concentre sur la création des modèles les plus performants et efficaces, et sur la fierté de construire des produits pour tous. L'entreprise est soucieuse de l'impact de cette technologie puissante et de sa distribution au plus grand nombre. La fusion de Codex et ChatGPT en est un exemple, visant à rendre la technologie plus sûre et plus facile d'accès pour tous, quels que soient leur métier ou leurs compétences techniques. Il ne se concentre pas sur la concurrence, mais sur les valeurs d'OpenAI et sa capacité à innover de manière unique. Il souligne l'importance de la construction d'une communauté et de la transparence. OpenAI intègre de nombreuses idées de la communauté, ce qui est source d'énergie et de plaisir. La mission de l'entreprise, qui est de construire cette technologie pour le monde entier et non seulement pour elle-même, est une source de motivation. Les "resets" de tokens, qui sont des crédits d'utilisation offerts aux développeurs, ont été initiés pour compenser les problèmes ou les configurations sous-optimales. C'était une manière de remercier les utilisateurs et de reconnaître l'importance du produit pour eux. Cette pratique, bien que non coordonnée avec le marketing ou la finance, a créé une grande bonne volonté dans la communauté et a probablement contribué à la croissance. Thibaud peut appuyer sur le bouton de reset quand il le juge opportun, en suivant le principe de dédommager les utilisateurs si l'expérience est sous-optimale. Cela rappelle la politique de retour d'Amazon. C'est aussi un moyen de célébrer des moments clés et d'encourager l'exploration de nouvelles fonctionnalités, comme l'Ultra Fast. Il confirme l'existence d'un bouton physique pour ces resets. Ces resets nécessitent une planification significative de la capacité de calcul. Il y a quelques semaines, OpenAI a annoncé une réduction de 80% du prix de Luna et une baisse pour Terra, suite à des optimisations de l'efficacité de Luna par "Soul". Thibaud explique que l'entreprise a planifié ses capacités de calcul bien à l'avance. Une grande partie de cette capacité est consacrée à la recherche et à l'amélioration de l'efficacité des modèles existants. L'incroyable est que les modèles les plus avancés peuvent être utilisés pour réorganiser l'infrastructure et l'ingénierie de la pile technologique, permettant des gains significatifs en efficacité et en performance. Non seulement les coûts ont été réduits, mais la vitesse a également augmenté, les modèles étant environ 60% plus rapides qu'il y a trois mois, en dehors de l'Ultra Fast. L'engagement est de maintenir les coûts et les performances à la pointe, et de partager ces gains d'efficacité avec les clients et utilisateurs, comme ce fut le cas avec Luna. Les discussions internes sur l'allocation des ressources de calcul se basent sur des principes fondamentaux, avec des allocations pour la recherche et pour le produit. Les gains d'efficacité sont si importants qu'il n'y a pas eu de compromis majeur, permettant de gérer une augmentation significative du débit avec la même enveloppe de calcul. Thibaud perçoit ces avancées, où un modèle comme Soul optimise l'exécution de Luna, comme une forme précoce d'auto-amélioration récursive. Il ne s'agit pas seulement de modèles développant d'autres modèles, mais aussi d'utiliser ces modèles pour développer l'infrastructure critique nécessaire à leur propre utilisation, ce qui est une forme d'auto-amélioration récursive du système global. Cela inclut l'optimisation de la pile d'inférence, des noyaux CUDA, et le développement de nouvelles façons plus efficaces d'interagir avec les modèles, comme les agents cloud. Concernant la pause dans l'entraînement de modèles à la "frontière absolue" de l'apprentissage par renforcement, mentionnée par Sam Altman, Thibaud explique que c'est une décision de recherche où OpenAI investit ses ressources là où c'est le plus important. Avec l'augmentation des capacités des modèles, l'alignement et la sécurité deviennent primordiaux. La pause était nécessaire pour permettre aux équipes de comprendre et de renforcer toutes les parties du système avant de reprendre l'entraînement en toute confiance. OpenAI est très engagé dans la sécurité et l'alignement, et est capable de prendre de telles décisions rapidement. Des principes clairs ont été établis pour déterminer quand reprendre l'entraînement. L'Ultra Fast débloque des cas d'utilisation où les enjeux sont élevés. En interne, il est utilisé lors de pannes, car chaque seconde compte. Les équipes travaillant sur des projets critiques le demandent également. Cependant, il n'est pas donné à tous les employés, car la majorité de la capacité est réservée aux utilisateurs externes. Les employés l'utilisent pour comprendre et améliorer le produit, mais avec des restrictions. Les cas d'utilisation sensibles à la latence qui l'enthousiasment le plus en dehors d'OpenAI sont les interactions non textuelles. Il imagine une toile partagée où l'on peut créer des choses, générer des idées, des images, puis choisir et prototyper rapidement, en temps réel, via la voix ou le texte. C'est un processus créatif qui permet aux ingénieurs de prototyper en une minute, plutôt que de passer du temps à concevoir. Il pense que les vitesses Ultra Fast deviendront la norme avec le temps, peut-être d'ici un ou deux ans, à mesure que la technologie progresse et devient plus efficace en termes de coûts et de tokens. Cependant, il y aura toujours un niveau "supérieur" avec des coûts plus élevés pour des performances encore meilleures. Pour ceux qui sont nerveux à propos de l'IA, Thibaud ins