Amazon CEO Andy Jassy on the $220 Billion AI Buildout

Le PDG d'Amazon, Andy Jassy, a discuté de l'évolution rapide de l'entreprise et de son ambition pour l'avenir, notamment en matière d'investissement dans l'IA et les centres de données. Il a souligné que l'année 2021 semble lointaine, avec une croissance de 80 % du chiffre d'affaires global d'Amazon, l'activité AWS ayant presque triplé et les revenus publicitaires multipliés par 2,5. Un défi majeur rencontré après son entrée en fonction fut l'optimisation des coûts de service dans le secteur de la vente au détail. Amazon avait doublé la taille de son réseau de distribution en 18 mois et construit un réseau de transport du dernier kilomètre de la taille de UPS en 20 mois. Cette croissance rapide a entraîné des inefficacités. La solution a été de régionaliser le réseau national de distribution aux États-Unis, rapprochant ainsi les articles des clients, ce qui a permis de réduire les coûts de service grâce à des distances de transport plus courtes, tout en accélérant les livraisons. Cette réévaluation des pratiques a libéré de la vitesse de livraison et de la demande dans le commerce de détail. L'explosion de l'IA générative en 2023 a marqué une différence énorme. Alors qu'AWS était déjà un leader avec une croissance rapide, l'opportunité offerte par l'IA a transformé la perspective de l'entreprise. L'activité AWS, avec un taux de croissance annuel de 36,7 % sur un chiffre d'affaires de 169 milliards de dollars, est perçue comme un moteur de réinvention pour chaque expérience client. Andy Jassy a mentionné d'autres initiatives comme Prime Video, Amazon Leo (satellites en orbite basse), Zoox (conduite autonome), les services de santé et la robotique, toutes unifiées par la mission d'améliorer et de faciliter la vie des clients. Concernant la gestion de la croissance rapide et des inefficacités, Andy Jassy a expliqué que les principes de leadership d'Amazon, bien que parfois en tension, reflètent les compromis du monde réel. Lors de la pandémie, il a fallu choisir entre construire rapidement, quitte à être moins optimal, et servir les clients et les vendeurs qui avaient un besoin vital des services d'Amazon. La décision a été de privilégier les clients, assumant qu'il y aurait un nettoyage à faire par la suite. Grâce à une culture de transparence et de données, les problèmes ont été identifiés et des parties clés du réseau ont été réarchitecturées pour combiner vitesse et coût. L'investissement massif dans les centres de données et les puces pour l'IA est un autre sujet central. Andy Jassy a comparé la situation actuelle au début d'AWS, où l'entreprise construisait une infrastructure sans certitude de la demande externe. Aujourd'hui, la demande pour l'IA est sans précédent. L'activité d'IA d'AWS a atteint un taux annuel de plus de 25 milliards de dollars en seulement trois ans, ce qui est "plusieurs centaines de fois plus rapide" que les débuts d'AWS. Amazon prévoit d'investir 220 milliards de dollars en dépenses d'investissement (capex) cette année. Andy Jassy a noté que même avec cet investissement colossal, une part significative de la demande reste insatisfaite. La visibilité sur la demande client est un facteur clé. Les investissements dans les centres de données sont faits environ deux ans à l'avance, tandis que ceux pour les serveurs et le réseau sont faits quelques mois seulement avant leur utilisation, offrant une grande flexibilité. Bien que ces investissements massifs affectent le flux de trésorerie disponible à court terme, ils sont essentiels pour capitaliser sur l'opportunité de l'IA. La construction de centres de données est devenue un enjeu politique, notamment aux États-Unis. Andy Jassy a souligné que toutes les activités modernes (marché boursier, banques, santé, divertissement, commerce, éducation, etc.) dépendent des centres de données, et l'IA amplifie ce besoin. Il a comparé l'ampleur de la construction d'infrastructures actuelles à celle des autoroutes et ponts dans les années 1950. Il a réfuté certaines "légendes urbaines" sur l'impact des centres de données, citant par exemple que l'industrie du golf consomme 200 fois plus d'eau que tous les centres de données d'Amazon. Il a également précisé que les générateurs de secours ne fonctionnent que 0,1 % du temps. L'augmentation des tarifs énergétiques est due à un manque d'investissement national dans les infrastructures de réseau électrique, et non aux centres de données seuls. De plus, les centres de données contribuent fiscalement aux communautés locales, comme les 3 milliards de dollars payés par Amazon dans le comté de St. Joseph C en Indiana. La demande en IA est "en forme d'haltère". D'un côté, il y a les laboratoires d'IA qui consomment d'énormes quantités de calcul, et quelques applications grand public comme ChatGPT. De l'autre côté, les entreprises utilisent principalement l'IA pour l'évitement des coûts et la productivité (automatisation du service client, détection de fraude). Au milieu se trouvent les charges de travail de production actuelles des entreprises, dont la majorité n'utilisent pas encore l'inférence de manière généralisée. Andy Jassy prévoit que dans cinq à sept ans, la plupart des applications d'entreprise utiliseront l'inférence de manière omniprésente, ce qui représente un immense potentiel de croissance. Face à la pénurie imminente de centres de données, de puces et de mémoire, Andy Jassy a affirmé que la pénurie ne se terminera pas en 2027 et que la demande est telle que même des investissements supplémentaires ne suffiraient pas à la satisfaire. Il a insisté sur l'approche centrée sur le client d'Amazon. Contrairement à d'autres qui pourraient optimiser les revenus à court terme en augmentant les prix pour les nouveaux clients avides d'IA, Amazon s'engage à soutenir ses clients existants qui exploitent leurs activités sur AWS. L'objectif est de maximiser la capacité pour tous les clients, qu'ils soient "core" ou "AI", de manière économiquement durable. L'acquisition d'Annapurna Labs en 2015 a été une décision stratégique clé. Initialement, l'objectif était de verticaliser l'intégration pour optimiser l'utilisation des serveurs EC2, en déchargeant les fonctions de virtualisation, réseau, sécurité et stockage vers une carte réseau personnalisée. L'équipe d'Annapurna a ensuite développé la puce CPU Graviton, offrant une performance prix 40 % supérieure aux processeurs x86, et utilisée par 99 % des 1 000 principaux clients EC2. Plus récemment, face à la dominance d'un fournisseur unique dans l'IA, Annapurna a développé l'accélérateur d'IA Trainium, qui offre une performance prix 30 à 40 % supérieure aux processeurs comparables. Ces puces sont essentielles pour réduire le coût de l'inférence, qui est encore trop élevé pour une adoption généralisée de l'IA dans les applications d'entreprise. Amazon a également réalisé des investissements majeurs dans des entreprises d'IA comme Anthropic (18 milliards de dollars) et OpenAI (50 milliards de dollars). Ces investissements sont motivés par la conviction dans le potentiel transformateur de l'IA, la qualité des équipes et des technologies de ces entreprises, et les partenariats étroits. Par exemple, de nombreux clients utilisent Anthropic sur Bedrock, le service d'inférence d'AWS, et Anthropic a construit ses modèles sur Trainium. Avec OpenAI, la collaboration a permis aux clients d'utiliser OpenAI sur AWS via un produit unique développé conjointement. L'impact de l'IA sur l'organisation des entreprises est profond. Andy Jassy a cité l'exemple de l'équipe Bedrock qui a reconstruit le moteur d'inférence avec six ingénieurs en 76 jours, une tâche qui aurait pris un an à 40 personnes auparavant. Cela remet en question la spécialisation excessive des équipes. Il prévoit que moins d'humains effectueront les tâches actuelles, avec l'émergence de nouveaux emplois. Les équipes seront plus petites et plus polyvalentes, capables de travailler sur plusieurs fonctions, car les modèles d'IA pourront accomplir 80 % du travail. Cela permettra d'innover plus rapidement et de manière plus étendue. Un risque immédiat de l'IA est la cybersécurité. Les modèles d'IA peuvent trouver beaucoup plus de vulnérabilités que les humains. Les applications devront être capables de répondre aux menaces en quelques minutes, ce qui nécessitera une réécriture du code pour permettre des mises à jour automatiques par des agents. Les entreprises qui ne s'adapteront pas à cette nouvelle réalité seront vulnérables. Enfin, Andy Jassy a abordé la réinvention des produits existants. Il a distingué trois approches de l'IA : la réduction des coûts, la création de produits inédits, et la refonte de produits existants. Il a insisté sur la nécessité de repenser radicalement des expériences client établies, comme Alexa. Les "cerveaux" d'Alexa, bien qu'inventifs à l'époque, doivent être "recâblés" avec l'IA générative pour rester pertinents. Ce processus est difficile car les équipes sont attachées à ce qu'elles ont construit. Cependant, il estime que toutes les entreprises d'Amazon, y compris le commerce de détail, Prime Video, Fire TV ou Prime Music, doivent être réinventées. Pour les jeunes, son conseil est d'apprendre et d'utiliser l'IA, car elle sera omniprésente. Il ne s'agit pas de remplacer le raisonnement critique et l'ingéniosité humaine, mais de les amplifier. Les outils d'IA permettront d'atteindre un point de départ avancé plus rapidement, mais la capacité à assembler les pièces pour construire une stratégie, un plan ou un nouveau produit restera l'apanage de l'ingéniosité humaine. Amazon est engagé dans trois transformations majeures de notre époque : l'IA, la robotique et le développement spatial. L'entreprise est au cœur de ces trois domaines, de l'utilisation de la robotique dans le commerce de détail à la constellation de satellites Amazon Leo pour la connectivité mondiale. La capacité d'Amazon à s'étendre sur autant de domaines découle de son organisation décentralisée et de sa volonté d'investir massivement dans des initiatives différenciées et à fort potentiel, tout en restant centré sur l'amélioration de la vie des clients.