Why AI Demand Is Outrunning Compute Supply

L'histoire du XXIe siècle pourrait bien se souvenir de cette période comme de "l'âge d'Elon et Jensen", tant ces figures transforment fondamentalement le tissu de la société humaine et de la civilisation. Le paysage technologique actuel est marqué par une accélération sans précédent, particulièrement dans le domaine de l'intelligence artificielle. Malgré les inquiétudes concernant d'éventuelles pénuries d'approvisionnement, le sentiment général parmi les acteurs du secteur reste résolument optimiste. Gavin, qui a passé l'été sur la côte Ouest à chercher un argumentaire baissier, admet ne pas en avoir trouvé. Il pose systématiquement la question : "Pouvez-vous me donner un seul point de données quantitatif dans votre activité qui se dégrade ?" et n'obtient aucune réponse convaincante. L'IA semble avoir connu une accélération spectaculaire en juillet et août, touchant OpenAI, les projets open source, et notamment Grok, suite au lancement de Grokbot. Cette dynamique contraste avec la récente baisse des actions publiques dans le secteur de l'IA, qui subissent des reculs importants malgré une accélération globale. L'idée qu' "tout le monde gagne" prend de l'ampleur, incluant des acteurs comme Anthropic, OpenAI, SpaceX, Meta, Google (via ses TPUs), l'open source, et les fournisseurs de cloud d'inférence. Les applications qui exécutent bien et naviguent dans cet environnement sont également susceptibles de prospérer. Dans ce contexte, Anthropic, après une période de calme, aurait potentiellement nettoyé sa comptabilité pour se comparer à OpenAI en termes de revenus générés. L'entreprise aurait ensuite mené des "testing the waters" en vue d'une introduction en bourse. Il est plausible qu'Anthropic annonce une réaccélération de ses performances. La compétition entre les entreprises développant des modèles frontières est palpable ; Anthropic semble attendre le lancement d'Astra par OpenAI avant de dévoiler sa propre avancée, Fable 5.1. Cette stratégie réfléchie, bien que subissant des critiques en période de quiet period avant l'IPO, est vue comme une tactique de jeu. La présence d'OpenAI et d'Anthropic en tant que sociétés cotées est jugée bénéfique pour le marché, car elle injecte une force puissante dans les modèles d'investissement des investisseurs publics. Cependant, des questions émergent quant à la culture d'entreprise d'Anthropic, qui interroge les candidats sur leur réaction si les actions allaient à zéro, cherchant des individus alignés sur la mission plutôt que des mercenaires. Si l'idéal est louable, la capacité à financer la recherche et le développement futurs dépend de la valorisation des actions. Anthropic est décrite comme une "entreprise d'entreprise accidentelle", où ce secteur est un sous-produit de sa mission principale, contrairement à OpenAI et SpaceX qui ont une approche plus commerciale. Une analyse des modèles économiques révèle des chiffres impressionnants. Si une entreprise dispose de 10 gigawatts de puissance, en allouant 8 à l'inférence et en la monétisant à 60 milliards de dollars par an, cela représente 480 milliards de dollars de revenus annuels, soit un retour sur investissement basé sur les revenus en un an. Ces chiffres sont considérés comme conservateurs, certains estimant que le marché valorise la puissance de calcul à 100 milliards de dollars par gigawatt. Un changement d'allocation, passant de 8 GW pour l'inférence à 2 GW pour l'entraînement, pourrait réduire les revenus à 120 milliards de dollars, une décision que les entreprises pourraient prendre pour leur avantage à long terme. Les marchés publics devront s'adapter à cette volatilité, qui diffère de la stabilité relative des entreprises internet comme Meta et Google, dont les modèles économiques n'impliquaient pas de compromis aussi radicaux entre coût et revenus. La conversation sur la formation (training) versus l'inférence est cruciale. Il est probable que les laboratoires investissent tous leurs profits incrémentaux, et même plus, dans la formation sur le long terme. Ils ne généreront probablement pas de flux de trésorerie disponible de sitôt, mais plutôt un flux de trésorerie opérationnel conséquent utilisé pour acquérir des GPUs et autres accélérateurs. Il est également possible qu'ils subventionnent fortement leurs produits internes, en allouant une partie de leur capacité à la recherche interne et à la formation, en plus de l'inférence pour leurs produits actuels. Les croyances en la loi d'échelle suggèrent que la focalisation sur la génération de flux de trésorerie disponible n'est pas la priorité. Les décisions d'investissement en capital sont complexes. Satya Nadella de Microsoft aurait regretté un ralentissement des dépenses, tandis que Dario Amodei d'Anthropic a privilégié la prudence, craignant la faillite plus que la perte de parts de marché. L'agressivité d'OpenAI et de SpaceX dans leurs investissements a été récompensée. Des entreprises comme Nebius et Corweave affichent des retours sur investissement en 9 à 10 mois, grâce à des paiements initiaux substantiels et une monétisation rapide sur le marché au comptant. SpaceX, avec ses clusters importants et sa mise en œuvre rapide, bénéficie d'un retour sur investissement encore plus rapide. L'opportunité d'investir des dizaines voire des centaines de milliards de dollars avec des retours sur investissement inférieurs à un an est rare. De plus, le financement de ces acquisitions de GPUs et TPUs est facilité par un coût de capital très bas. L'allongement de la durée de vie utile des équipements, grâce à l'amélioration continue des modèles, augmente le retour sur investissement par gigawatt, rendant potentiellement la durée de retour sur investissement pour l'équité encore plus courte. Une augmentation des prix des équipements pourrait même rendre les économies du côté de l'offre encore plus attrayantes. Du côté de la demande, la monétisation actuelle repose sur environ 30 millions d'utilisateurs payants actifs, principalement des développeurs. Ce chiffre pourrait être surestimé, le nombre d'ingénieurs les plus dépensiers étant bien inférieur. Face à 1,5 milliard de travailleurs du savoir, le potentiel de diffusion de l'IA dans l'économie réelle semble immense, avec une offre actuellement contrainte. Les entreprises natives de l'IA peuvent dépenser jusqu'à 10% de leur compensation humaine en jetons, contre 1% pour les entreprises traditionnelles. Sur une décennie, le potentiel de croissance est considérable. La consommation de jetons au sein des entreprises a explosé, avec une multiplication par 100 du mois de mars à août pour certaines. L'arrivée de Grokbot Enterprise a encore accéléré cette tendance, avec un potentiel de multiplication par 10 à 20 en un mois. L'utilisation de ces outils est jugée extrêmement précieuse et productive. La nouvelle génération d'utilisateurs, plus jeune, est native de l'IA et en maîtrise l'usage. Des outils comme Grokbot permettent de créer des versions améliorées de contenus en quelques secondes, là où des outils comme Claude Code demandaient des heures. Grokbot est comparé à un moment "ChatGPT", offrant une puissance et une facilité d'utilisation remarquables. La transition vers des IA capables de proposer des actions recommandées, voire d'automatiser des tâches, représente une nouvelle étape. L'histoire des marchés financiers montre que les technologies transformatrices s'accompagnent de bulles spéculatives dues à un enthousiasme excessif, une surévaluation et un surinvestissement. Le financement par la dette accentue cette tendance en exigeant des retours immédiats. Cependant, le financement actuel par flux de trésorerie opérationnel est un facteur stabilisateur. Les contraintes fondamentales, comme la disponibilité des wafers et la capacité de fabrication, ralentissent la croissance. Cette situation, bien que créant des pénuries, est vue comme bénéfique pour la société, limitant une surchauffe potentielle. La hausse des taux d'intérêt réels et la réglementation sont d'autres facteurs influents. La perception de la Chine comme un adversaire stratégique est jugée trop abstraite pour l'Américain moyen, qui se préoccupe davantage de l'abordabilité et de l'impact sur sa vie. L'essor des data centers est présenté comme une aubaine pour les travailleurs américains, revitalisant les petites villes et générant des revenus fiscaux considérables. L'argument selon lequel les data centers consomment trop d'eau est qualifié de "totalement démoli". Ces infrastructures sont vues comme un moteur de ré-industrialisation de l'Amérique, offrant un avantage concurrentiel grâce à des coûts d'électricité bas, alimentés par le gaz naturel abondant. Meta est cité comme un exemple d'entreprise racontant efficacement cette histoire, en mettant en avant l'impact positif de ses produits sur de petites entreprises et leurs employés. L'industrie de l'IA dans son ensemble est encouragée à partager des études de cas spécifiques pour illustrer ses bénéfices tangibles. La pénurie d'approvisionnement est jugée plus probable que le surstockage, avec une capacité insuffisante même avec les prévisions de construction. Cela pourrait entraîner une augmentation des prix pour accéder à l'intelligence artificielle, à l'opposé des attentes générales. Une pénurie massive pourrait entraîner une inégalité d'accès au calcul, favorisant les grandes entreprises et les individus fortunés. L'open source, bien que souvent perçu comme gratuit, nécessite la même quantité de calcul que les modèles propriétaires. La différence réside dans les marges appliquées. La licence Kimy, par exemple, stipule une part de 30% des revenus, et le modèle est particulièrement gourmand en jetons, donc coûteux à exécuter. Elon Musk et Jensen Huang sont considérés comme des figures emblématiques façonnant l'avenir. SpaceX, avec Starlink, apporte une connectivité à faible coût aux communautés les plus démunies, créant un surplus de consommation sans précédent. L'idée d'une infrastructure de calcul en orbite, de la taille d'un avion, est évoquée. Malgré les scepticismes, les ingénieurs de SpaceX auraient résolu ce défi. L'argument clé réside dans la réutilisabilité de Starship, qui rendrait le lancement de ces centres de données orbitaux économiquement viable. Bien que l'entraînement des modèles restera probablement sur Terre en raison des limitations de vitesse de la lumière, une fraction croissante du calcul mondial se fera en orbite. Le lancement d'un rack de calcul conçu par Elon Musk et Jensen Huang est prévu pour fin 2027. La position de Microsoft est jugée favorable dans un avenir où un ensemble de modèles coexistera. Bien qu'ayant échoué à développer ses propres modèles frontières compétitifs, Microsoft peut capitaliser sur les meilleurs modèles open source, potentiellement développés par Nvidia, et les intégrer à ses offres. L'acquisition de Poolside par Nvidia pour son talent en open source américain souligne cette stratégie. Les entreprises pourront ainsi utiliser des modèles open source de base, les affiner avec leurs données propriétaires via le RLHF (Reinforcement Learning from Human Feedback) et le fine-tuning supervisé, tout en contrôlant leur intelligence, leurs capacités et leurs coûts. Cette approche hybride, combinant modèles frontières et modèles open source, semble être l'avenir probable. Meta est également félicité pour son retour spectaculaire dans la course à l'IA, dépassant même des acteurs comme Gemini avec ses modèles. La concurrence est intense, qualifiée de "jeu d'échecs corporatif aux enjeux les plus élevés". La capacité à offrir une couche d'abstraction transparente et performante pour les entreprises est un enjeu majeur. Des entreprises comme Fireworks Nexus, Harvey, et Cursor se positionnent pour jouer ce rôle, en proposant des solutions personnalisées et évolutives. La difficulté réside dans la création d'une expérience utilisateur fluide, transparente et sécurisée, nécessitant une intégration verticale poussée pour être un fournisseur à faible coût sur le long terme. Nvidia, sous la direction de Jensen Huang, est dans une position stratégique dominante. Sa stratégie d'intégration verticale et d'ouverture horizontale permet de connecter les nouveaux accélérateurs à son écosystème. Les concurrents sont encouragés à trouver des niches plutôt qu'à affronter directement Nvidia. La capacité de financement de Nvidia, notamment via les garanties