L'IA vient de concevoir une puce qui bat Nvidia

Un événement majeur secoue l'industrie des semi-conducteurs et de l'intelligence artificielle : OpenAI a dévoilé sa première puce, baptisée "Jalapeno". Ce qui rend cette annonce révolutionnaire, ce n'est pas tant la puce elle-même que le processus de sa fabrication, qui aurait impliqué GPT de manière cruciale. Selon Semianalysis, un cabinet d'analyse réputé, Jalapeno surpasse les solutions existantes, y compris celles de Nvidia, sur la métrique la plus importante pour l'inférence en IA. Il est essentiel de comprendre que Jalapeno n'est pas un GPU polyvalent comme ceux de Nvidia, mais un circuit intégré spécialisé (ASIC) conçu pour une tâche unique : exécuter des modèles de langage et générer des réponses avec une efficacité énergétique maximale. Dans le contexte actuel où l'énergie est le principal goulot d'étranglement pour la croissance de l'IA, cette efficacité est primordiale. La question clé devient donc le nombre de réponses utiles produites par watt consommé. Les tests menés par Semianalysis sur le benchmark InferenceX avec plusieurs modèles, dont GPT d'OpenAI, révèlent que Jalapeno offre une performance de 1,5 à 1,9 fois supérieure par watt par rapport aux systèmes Nvidia Blackwell, avec une latence réduite de 1,7 à 3,6 fois. Pour les interactions en temps réel, comme avec un chatbot, cet avantage peut atteindre quatre fois, le tout avec une consommation énergétique de 700W contre 1400W pour le GPU GB300 de Nvidia. Cependant, la comparaison la plus pertinente n'est pas avec Blackwell, mais avec la nouvelle plateforme Blackwell de Nvidia. Dans ce cas, l'écart se resserre considérablement, le coût par token étant pratiquement égal. Ce qui est remarquable, c'est que Jalapeno, en tant que première génération avec seulement trois mois de développement logiciel, rivalise déjà avec la pointe de Nvidia. Le véritable bouleversement ne réside pas dans la puce elle-même, mais dans sa programmation. Pour qu'une puce soit performante, elle nécessite un code spécialisé appelé "kernel", un programme hyper-optimisé dictant chaque calcul. La création de ces kernels est un art complexe, maîtrisé par un petit nombre d'experts. Pendant vingt ans, ces spécialistes ont majoritairement travaillé sur CUDA, la plateforme logicielle de Nvidia, créant un écosystème quasi-impénétrable. OpenAI a contourné cet obstacle en développant "Gluon", un nouveau langage de programmation de kernel de bas niveau. Le point de bascule est que ce n'est pas un humain, mais l'IA d'OpenAI, à travers Codex piloté par GPT-4, qui a écrit ces kernels. Face à un défi spécifique pour le modèle de DeepMind, les chercheurs d'OpenAI ont constaté que c'était Codex qui avait généré le code nécessaire, surpassant même les meilleurs ingénieurs humains. En deux mois, avec Codex, trois modèles open-source ont été portés à haute performance sur Jalapeno, avec des implémentations IA tournant 1,5 à 1,8 fois plus vite que celles codées manuellement. Ce qui est encore plus stupéfiant, c'est que l'IA a également participé à la conception de la puce elle-même, réduisant le cycle de développement de neuf mois, un processus qui prend normalement des années. Dylan Patel de Semianalysis suggère que CUDA est potentiellement "mort", ce qui représente un choc majeur. Bien que l'écosystème CUDA ne disparaisse pas du jour au lendemain, pour les laboratoires de pointe, l'automatisation de l'écriture des kernels par l'IA pourrait annuler l'avantage historique de Nvidia. Paradoxalement, les modèles d'OpenAI, qui ont contribué à concevoir la puce qui menace Nvidia, tournent actuellement sur des GPU Nvidia. C'est la "brutalité du marché" où la technologie se construit sur elle-même. OpenAI, malgré cette avancée, ne délaisse pas Nvidia, AMD et Cerebras, les intégrant dans leur stratégie "comput global" pour l'entraînement et l'inférence. L'objectif de Jalapeno est de créer une option, pas de remplacer Nvidia immédiatement. Plus largement, on observe une boucle de rétroaction puissante où les modèles d'IA conçoivent des puces, qui à leur tour accélèrent le développement de meilleurs modèles d'IA. Ce phénomène s'étend au-delà des semi-conducteurs, touchant la biologie, les mathématiques, la physique et la médecine, comprimant le temps de recherche et d'innovation. L'IA ne remplace pas l'expert, mais amplifie sa capacité à explorer de nouvelles pistes. Dans le cas des puces, cette boucle se referme de manière unique : l'IA améliore l'outil physique qui la fait fonctionner. Ceux qui comprennent et intègrent ces outils se positionnent avantageusement face aux transformations industrielles et professionnelles à venir. L'orateur propose un programme d'apprentissage sur l'IA, couvrant les modèles et leur intégration pratique, y compris l'automatisation via des agents IA. Le programme offre un accès à vie à toutes les futures mises à jour avec un paiement unique, et est conçu pour être accessible sans profil technique.