Inside Benchmark's AI Bets | Eric Vishria

La conversation explore l'évolution rapide de l'industrie technologique, en particulier l'IA, et ses implications pour les entreprises, les investisseurs et les modèles d'affaires. L'un des points centraux est la nature paradoxale de la valeur dans les entreprises SaaS actuelles : chaque jour où une entreprise atteint ses objectifs, elle détruit de la valeur actionnariale. Ce constat remet en question les principes fondamentaux appris au cours des carrières professionnelles, où l'exécution rigoureuse d'un plan était synonyme de création de valeur. L'explication réside dans le déplacement du "frontière concurrentielle" dû à l'IA. L'exemple de Fireworks illustre la complexité inattendue de l'exécution de modèles d'IA à grande échelle. Malgré la disponibilité de modèles open source et de matériel Nvidia standard, des entreprises comme Fireworks atteignent des performances (vitesse et débit) cinq fois supérieures à celles des fournisseurs de cloud. Cela suggère qu'il ne s'agit pas d'une simple commodité, mais d'une expertise pointue et difficile à maîtriser, impliquant une optimisation profonde. La discussion compare l'adoption de l'IA à celle du cloud computing. En 2006, le lancement d'AWS (S3 et EC2) a été accueilli avec scepticisme par les investisseurs. En 2014, le récit était qu'AWS allait tout "manger", éliminant les opportunités pour les entreprises. Pourtant, l'histoire a montré que même si AWS a connu un succès phénoménal, des concurrents comme Azure et GCP ont émergé, et de nombreuses entreprises spécialisées (Snowflake, Confluent, Datadog) ont prospéré sur l'infrastructure cloud, voire en surpassant Amazon sur son propre terrain. La leçon est que le marché était bien plus vaste que prévu, et qu'un seul fournisseur ne pouvait pas tout consommer. Ce "syndrome du silo" ou "pensée à somme nulle" est une erreur courante. L'IA présente des parallèles : la croyance qu'une seule entreprise dominera tout est probablement fausse. La rapidité de l'adoption de l'IA est même supérieure à celle du cloud, suggérant un oligopole de gagnants et l'émergence de nombreux "petits" acteurs valorisés à des centaines de milliards de dollars. Côté demande, l'adoption de l'IA par les entreprises est différente de celle du cloud. Alors qu'en 2010-2011, les grandes entreprises étaient très sceptiques vis-à-vis du cloud (ce sont les "digital natives" qui ont d'abord adopté), aujourd'hui, elles "veulent" l'IA. Elles mènent des expériences, dépensent et ne sont pas dismissives, percevant l'IA comme une opportunité et une menace potentiellement plus grande que le cloud pour leur activité. Il y a une opportunité massive d'aider ces entreprises à naviguer dans l'IA, en agissant comme des "sherpas de l'IA". L'exemple de Sierra, une entreprise d'applications d'IA axée sur le service client, met en lumière une autre facette de l'innovation. Contrairement aux fournisseurs d'infrastructure, Sierra se concentre sur les applications grand public. L'équipe, composée de technologues ayant une longue expérience de l'entreprise, agit comme un "sherpa de l'IA". Une caractéristique clé est leur compréhension de la "frontière irrégulière" des capacités de l'IA – là où les modèles excellent et où ils échouent. Le développement de produits a été inversé : auparavant, le chef de produit comprenait le client et traduisait le problème aux ingénieurs. Désormais, il est crucial de comprendre les nuances des capacités des modèles et leurs limites, puis de les associer aux problèmes des clients. Cela implique de construire des "châteaux de sable" qui seront rapidement obsolètes, car les capacités des modèles évoluent toutes les quatre semaines. La valeur de l'expertise technique augmente paradoxalement. La "frontière concurrentielle" a fondamentalement changé pour les entreprises SaaS. L'exemple des bases de données est frappant : auparavant, les bases de données étaient des entreprises "collantes" avec de grandes marges, car la migration d'une application d'une base de données à une autre était un projet gigantesque et difficile. Avec l'IA, les agents ne se fatiguent pas des tâches monotones de traduction de spécifications, et l'IA est très douée pour les tâches bien spécifiées. La migration de bases de données, autrefois un cauche-mar, devient triviale. Les critères de succès pour une entreprise de bases de données ont changé : l'évolutivité de zéro à l'infini et le coût sont devenus les arbitres. Le message pour les entreprises SaaS est clair : "passez à l'IA ou votre valeur sera trois fois vos revenus". Beaucoup d'entreprises SaaS publiques, bien qu'ayant quadruplé de taille, valent moins qu'en 2021 en raison de la compression des multiples. L'idée est que chaque jour où l'on atteint le plan sans intégrer l'IA, on détruit de la valeur. Il faut inverser les priorités : se concentrer sur l'IA de 8h à 17h, et sur l'activité existante de 17h à 20h. Les gagnants sont les équipes agiles, capables d'optimiser constamment et de faire évoluer leur modèle économique. Le rythme effréné de l'évolution des modèles (nouvelles capacités toutes les quatre semaines) oblige à remettre en question toutes les hypothèses et leçons apprises. Des leaders expérimentés de l'ancienne génération peinent à s'adapter aux entreprises d'IA en pleine croissance. Le modèle de vente traditionnel, basé sur la capacité de quota et la poussée de la demande, est inefficace. Ces entreprises d'IA vendent de la "magie" et tirent la demande. Un bon vendeur d'IA est souvent un fondateur qui comble le fossé entre les capacités "irrégulières" de l'IA et les besoins des clients. Le marché de l'intelligence semble illimité, et le goulot d'étranglement est le capital et l'énergie. La question de l'énergie est une préoccupation majeure. Les modèles traduisent le calcul en intelligence. Si la demande d'intelligence est illimitée, la demande de calcul le sera aussi. Et le calcul nécessite beaucoup d'énergie. Si des pays comme la Chine augmentent leur production d'énergie dix fois plus vite que les États-Unis, cela pourrait créer un déséquilibre, rendant l'intelligence plus chère ou moins disponible. Il est crucial d'investir dans toutes les formes d'énergie. L'investissement dans le matériel, comme l'exemple de Cerebras (2016), est extrêmement difficile. La société a été fondée sur l'idée que les GPU, bien que meilleurs que les CPU pour le deep learning, n'étaient pas optimaux. Les trois leviers pour accélérer le deep learning en hardware sont : augmenter le nombre de cœurs, améliorer la communication entre les cœurs, et rapprocher la mémoire du calcul. Cerebras a poussé ces concepts à leur maximum avec une puce à l'échelle d'une tranche de silicium (wafer-scale chip). En software, un bon diagramme logique représente 80% du chemin ; en hardware, c'est seulement 2%. La physique, la chaîne d'approvisionnement complexe (TSMC et 30 autres fournisseurs) rendent le processus ardu. Il a fallu des années pour que le premier produit fonctionne. La performance maximale (roofline) est toujours réduite par le logiciel et la réalité. L'histoire du calcul montre qu'à chaque nouvelle charge de travail majeure (CPU, GPU, réseau, mobile), une nouvelle entreprise de plusieurs centaines de milliards de dollars émerge. L'IA est une telle charge de travail, introduisant une nouvelle contrainte de communication entre les cœurs. Il y aura de nombreux gagnants. De plus, une sixième génération de CPU est à venir, optimisée pour le code généré par les LLM, car les CPU actuels sont encombrés de l'héritage du passé. Cependant, malgré le succès de Cerebras, l'investissement dans le hardware reste éprouvant. En robotique, le défi est de passer des tâches répétitives en environnements contrôlés (largement résolues) aux tâches adaptées en environnements réels, ce qui nécessite l'IA. Le problème principal est l'absence de données à l'échelle d'Internet pour amorcer les modèles, comme ce fut le cas pour les LLM. Des approches comme la vidéo, la simulation et la téléopération sont explorées. L'astuce est de se concentrer sur les données de grande valeur pour amorcer le modèle, puis d'ajouter de petits exemples auxiliaires pour le post-entraînement, comme pour les LLM. Des entreprises comme Sunday Robotics intègrent verticalement le robot et la collecte de données, utilisant des gants spéciaux pour transférer des données de haute qualité. L'histoire des véhicules autonomes (Waymo, Tesla) montre l'importance de la collecte de données de haute qualité et de l'intégration verticale. Les robots de Sunday Robotics pliant du linge de manière arbitraire sont une preuve de concept que cette approche fonctionne. Le choix de la tâche (le linge) est moins important que la capacité à pré-entraîner un modèle puissant et à le post-entraîner efficacement, créant ainsi un cercle vertueux. Sur la question de la "meilleure" approche d'investissement, l'intervenant insiste sur la chimie avec les entrepreneurs et la volonté d'être un "partenaire" plutôt qu'un simple investisseur. Il faut être prêt à accompagner les entreprises dans les moments difficiles, à apprendre d'eux et à les aider à clarifier leur vision. Une question clé avant d'investir : "Pourrais-je convaincre quelqu'un que j'aime que ce projet pourrait être l'œuvre de sa vie ?" et "Si cette personne m'appelle à 21h un samedi soir, vais-je décrocher ?" Enfin, "Si nous avons raison, est-ce que ça compte ?" (suffisamment de valeur sera-t-elle créée ?). Les fonds de croissance, récemment lancés, sont une réponse à l'augmentation de la taille des marchés et des valorisations. Les LPs ont investi dans le capital-risque pour les multiples "insensés" sur le capital investi. Auparavant, cela était synonyme d'investissement en phase de démarrage. Aujourd'hui, les opportunités de multiples élevés sont plus larges que la seule phase de démarrage. Les "20 à 100x" de retour sur investissement sont le fruit de la collaboration avec des "personnes très spéciales", d'un travail acharné, intelligent et d'une bonne dose de chance. Le timing et les facteurs macroéconomiques, souvent hors de contrôle, sont cruciaux. Contrairement aux entreprises de logiciels qui contrôlent leur stack, les entreprises de hardware dépendent d'une chaîne d'approvisionnement complexe et de la géopolitique. La métaphore du golf (mettre beaucoup de balles près du trou pour augmenter la chance d'un trou en un) illustre cette approche : travailler avec des personnes exceptionnelles sur des opportunités illimitées. Les conditions pour une introduction en bourse (IPO) sont un sujet de débat. Une IPO offre de nouvelles opportunités, une confiance publique due à la transparence, une monnaie pour des acquisitions et une capacité inégalée à lever des capitaux. C'est le "passage au niveau supérieur" pour une entreprise. Bien que quelques entreprises puissent atteindre une échelle énorme sans être publiques (grâce à des flux de trésorerie importants), la plupart des entreprises devraient saisir les "fenêtres" d'opportunité pour s'introduire en bourse. Les grands débats au sein du partenariat tournent autour de la répartition de la valeur dans l'écosystème de l'IA (modèles fondamentaux, infrastructure, applications), de l'innovation des modèles d'affaires (vente par résultat) et de la part de valeur qui reviendra aux laboratoires et aux fabricants de semi-conducteurs. La "pensée à somme nulle" (qu'une seule entreprise dominera) est une erreur courante. L'intervenant croit que "tout fonctionnera" : les fournisseurs de cloud, les néo-clouds, les startups de puces, l'inférence en périphérie, les grands