Why Free Intelligence Won’t Change Everything

L'orateur principal présente une dualité concernant l'intelligence artificielle (IA) : d'une part, il voit un potentiel illimité d'utilisation de l'IA et une demande croissante de "tokens" (unités de calcul), suggérant que ceux qui construisent cette infrastructure feront fortune. D'autre part, il anticipe une chute drastique du coût par token, ce qui pourrait signifier une surconstruction de l'infrastructure. Il exprime pouvoir défendre ces deux scénarios avec une égale certitude. Il remet en question l'idée selon laquelle l'intelligence est une échelle illimitée, allant de l'amibe à Dieu. Selon lui, c'est une erreur intellectuelle de ne pas reconnaître les limites réelles de l'intelligence. Il propose de voir l'intelligence non pas comme une grandeur illimitée (comme la hauteur d'un arbre), mais plutôt comme un ratio, comme la rondeur d'une balle. L'intelligence est un outil utilisé pour faire des prédictions sur l'univers. À partir d'un ensemble limité de faits sur un univers complexe, l'intelligence permet d'interpoler entre ces faits. Certains domaines, comme les mathématiques, se prêtent bien à cette interpolation, permettant d'atteindre une quasi-perfection. Cependant, pour la plupart des questions intéressantes du monde, qui sont des systèmes dynamiques complexes (comme la météo ou les interactions humaines), l'intelligence n'est pas aussi puissante. Ces systèmes ne peuvent pas être résolus par une formule fermée. Les simulations, bien que utiles, sont invariablement sujettes à des erreurs initiales ou à chaque étape, ce qui conduit à une divergence des résultats au fil du temps. L'intelligence atteint rapidement un point où elle a fait toutes les prédictions possibles pour un être super intelligent, mais cela ne représente qu'un petit ensemble de toutes les choses intéressantes à savoir sur le monde. Pour aller au-delà, il faut acquérir plus d'informations en touchant à la réalité, ce qui prend du temps et nécessite des expériences. Un corollaire intéressant est que l'intelligence peut être utilisée pour réduire son propre coût. Ainsi, l'on se dirige vers un scénario où chacun aura accès à une intelligence "suffisamment bonne" et pratiquement gratuite. Cette intelligence "suffisamment bonne" pourra résoudre la grande majorité des problèmes pour lesquels les gens ont besoin d'intelligence. L'orateur développe l'idée que les systèmes non linéaires dynamiques limitent même une intelligence parfaite. Il cite l'histoire du météorologue qui, en arrondissant une décimale dans ses conditions initiales, obtenait des prévisions météorologiques complètement différentes après quelques jours. C'est l'effet papillon : une petite perturbation peut entraîner des conséquences imprévisibles à long terme. De nombreux systèmes qui nous intéressent ont cette caractéristique. On peut connaître toutes les conditions initiales, mais il est impossible de modéliser une équation simple pour prédire un ouragan ; il faut le simuler. Et pour simuler l'univers entier, il faudrait l'univers entier. Par conséquent, l'intelligence est limitée par une certaine "inconnaissabilité fondamentale" de l'univers. D'un point de vue pratique, l'orateur imagine un futur où chacun aura une équipe d'IA à disposition, agissant comme des personnes avec un QI de 200, optimisant continuellement les tâches que nous sommes trop paresseux pour faire. Cela aura un impact sur les entreprises, notamment celles qui dépendent de la rationalité limitée des consommateurs ou dont le produit est une forme d'intelligence "cristallisée" (logiciels). Si l'intelligence devient bon marché et omniprésente, ce qu'il faudra posséder, ce sont les compléments à l'intelligence : les données, l'attention, l'amour, l'affection, la proximité physique, l'échelle, et la capture réglementaire. Il prend l'exemple de Meta comme une entreprise qui possède des compléments parfaits à une intelligence bon marché et omniprésente. Le cœur de métier de Meta est désormais la "télévision personnalisée". Meta dépense 250 milliards de dollars par an, principalement en intelligence (centres de données, inférence, algorithmes, code, surveillance vidéo). Si le coût de l'intelligence diminue d'un facteur 100 en cinq ans, les coûts de Meta devraient chuter drastiquement. Du côté des revenus, les créateurs pourront produire un contenu de meilleure qualité à moindre coût, et Meta pourra mieux cibler ce contenu et les publicités, générant plus de revenus. Tout cela est rendu possible par les données et l'attention massives que Meta possède, des éléments que l'intelligence omniprésente ne détruit pas. Un autre exemple est Grindr, l'application de rencontres gay. Malgré une grande quantité de données et d'attention, l'entreprise est limitée par sa taille. Avec une intelligence bon marché et omniprésente, Grindr pourrait développer bien plus de fonctionnalités et exploiter son potentiel. Concernant les "labs" (comme OpenAI), l'orateur pense que l'intelligence frontalière n'est pas une commodité au début. Cependant, au fur et à mesure que les modèles s'améliorent et montent en gamme, les tâches plus simples se commoditisent rapidement. Par exemple, un modèle frontalier ne serait pas utilisé pour un chatbot de service client ; une version moins avancée suffirait. Il y a une vague de tâches difficiles nécessitant un modèle frontalier, suivie d'une vague où ce n'est plus nécessaire. La tendance est à une commoditisation rapide, avec des coûts qui s'effondrent. Même si les labs peuvent produire des tokens moins chers pour les tâches "non frontalières", ce marché pourrait ne pas être très grand car le coût est déjà faible et la concurrence est forte. La question est de savoir s'il existe toujours des marchés de plus en plus vastes pour les niveaux d'intelligence supérieurs. L'argument haussier serait que les gens paieront n'importe quoi pour un modèle capable de guérir le cancer. Cependant, l'orateur pense que guérir le cancer nécessite de "toucher à la réalité" et non pas seulement un QI plus élevé. Il y a peu de cas d'utilisation pour une intelligence "super élite", mais beaucoup pour une intelligence "très bonne". Cette dernière est hautement compétitive et commoditisée. Même si les labs deviennent des leaders de coût, la déflation rampante limite la taille du marché. L'orateur aborde le paradoxe de Jevons (la demande augmente quand les prix baissent) et l'idée que l'intelligence pourrait créer sa propre demande. Il explique que tous les marchés ont une forme en U : faible demande au début, puis forte demande à mesure que le produit s'améliore et que le prix baisse, mais au-delà d'un certain point, de nouvelles baisses de prix ne stimulent plus suffisamment la demande, et le marché se contracte. Il donne l'exemple du coût des communications par fibre optique : le coût a chuté, l'information déplacée a explosé, le marché a grandi, puis a cessé de croître et a même diminué en taille, malgré la baisse continue des coûts. Concernant la capacité de l'intelligence à créer plus de désir pour l'intelligence, il pense que oui, mais cela nécessite toujours de "toucher à la réalité" par des expériences. L'IA peut générer de nombreuses idées intéressantes en physique, mais elle aura besoin d'expériences physiques pour les vérifier. Il y aura une période incroyable de découvertes basées sur la synthèse de connaissances existantes que personne n'avait reliées. Mais à un moment donné, cela s'épuisera, et il faudra explorer l'inconnu, ce qui reste difficile même pour une IA super intelligente. L'orateur partage son propre usage de l'IA : il a commoditisé l'utilisation des modèles. Il ne sait plus quel modèle il utilise car tout est optimisé en arrière-plan pour lui. Il suggère que les entreprises d'expérimentation dans le monde réel (robotique, biolabs automatisés) sont une excellente idée, car elles bouclent la boucle entre l'intelligence et la réalité physique. Cependant, il y a des limites de vitesse imposées par le monde physique (ex: temps de croissance des souris pour une expérience biologique). L'intelligence est limitée par la capacité de "penser son chemin vers des solutions" et doit être complétée par l'expérimentation physique. Il observe que le marché, en particulier les investisseurs de pointe, se concentre sur l'offre d'IA (construction d'infrastructures) plutôt que sur la demande (usages finaux). Il trouve difficile de prévoir la demande d'inférence et les avancées technologiques, ainsi que la capture de valeur dans la chaîne de valeur. Il pense que la demande d'IA sera très sensible au prix. Sur les cycles du capital et de l'innovation, il compare la société américaine à un ménage qui économise pour une maison : elle investit massivement dans l'infrastructure de l'IA, ce qui crée des tensions économiques (ressources dédiées, coûts plus élevés ailleurs). Il pense que cela continuera jusqu'à ce que l'on en fasse trop. Le dynamisme technologique actuel, avec la capacité de l'IA à commoditiser même des éléments comme les puces (Nvidia), rend ces cycles encore plus complexes. Les entreprises qui bénéficieront le plus seront celles avec une proximité physique ou une échelle, capables d'utiliser l'intelligence pour mieux servir leurs clients ou réduire leurs coûts. L'orateur illustre cela avec l'exemple de la collecte des ordures : si les agents IA optimisent le choix du fournisseur, cela favorisera le producteur à bas coût, et pourrait même conduire à une concentration locale des services, rendant la collecte plus efficace et moins chère. Concernant son propre rôle d'investisseur, il anticipe une période où l'humain travaillant avec l'IA sera supérieur à l'un ou l'autre seul (comme aux échecs freestyle). Cependant, à long terme, l'IA pourrait le surpasser, car elle sera meilleure pour évaluer les distributions de résultats, rendant l'apport humain superflu. Il pense que l'IA pourrait même évaluer la gestion d'entreprise et les projets d'investissement. Il considère le prix comme un "miracle" économique, car c'est un signal enveloppé dans une incitation, coordonnant les activités économiques. Il ne pense pas qu'un système meilleur puisse être trouvé, même avec une intelligence illimitée. L'intelligence omniprésente rendra les marchés plus efficaces, avec des prix plus dynamiques et précis, réduisant la "rigidité" des prix et l'inertie des consommateurs. Il félicite les marchés de capitaux américains pour leur capacité à réallouer rapidement des ressources massives (3% du PIB) vers des entreprises spéculatives dans l'IA. C'est une capacité unique au monde qui soutient la croissance de la productivité. Il note une propreté étonnante dans cet investissement à grande échelle, contrastant avec les fraudes historiques des grands projets d'infrastructure. Il attribue la domination américaine dans ce domaine à une combinaison de génétique (propension au risque), d'évolution culturelle et institutionnelle (lois sur la faillite, capital-risque). Il conseille aux entreprises d'organiser des "hackathons" pour familiariser tous les employés avec les capacités de l'IA. Le PDG devrait exiger un accès en lecture seule à tous les systèmes de l'entreprise pour l'agent IA, puis étendre l'accès en écriture et la modification des systèmes. Ce processus, bien que long et complexe, est essentiel. Il pense que c'est un excellent moment pour créer des entreprises, car les conditions de marché sont favorables et les outils IA permettent d'avancer rapidement sans le "bagage" des entreprises existantes. Cependant, la facilité de création signifie aussi une forte concurrence, et il faut trouver un "avantage durable" (données propriétaires, verrouillage). Concernant les marges des entreprises, il pense qu'elles baisseront globalement en raison de l'augmentation du "surplus consommateur" partout. Il est possible que cela conduise à des entreprises plus complexes et intégrées verticalement (comme Carvana), qui pourraient avoir des marges plus élevées. Sur la distribution des richesses et des revenus, il voit deux histoires : d'une part, une concentration des revenus pour un petit groupe de personnes