Why OpenAI Is Racing to Make Computer Use Superhuman

Le podcast A16Z reçoit Ari Weinstein et James Sun d'OpenAI pour discuter de l'évolution des agents informatiques et de leur impact potentiel sur les consommateurs et les entreprises. **Les avancées avec Astra et ses implications** Ari Weinstein explique que le modèle Astra d'OpenAI a marqué une avancée significative pour les agents informatiques. Bien que les modèles précédents aient déjà été performants, Astra apporte des améliorations notables. Il est légèrement plus rapide en moyenne grâce à une utilisation plus efficace des "tokens de pensée", ce qui lui permet d'accomplir des tâches avec moins de ressources. Astra excelle également dans les tâches créatives, comme le démontre une démonstration où l'agent dessine dans Microsoft Paint, suggérant une amélioration des capacités dans divers domaines créatifs. De plus, Weinstein souligne une fiabilité accrue d'Astra, une différence subtile mais cruciale entre 99 % et 97 % de fiabilité, qui renforce la confiance dans son utilisation. James Sun ajoute que la fiabilité accrue est également liée au fait qu'Astra est le modèle le plus "aligné" d'OpenAI. Il est plus résistant aux injections de prompts et moins susceptible d'entreprendre des actions involontaires. Cela est particulièrement important pour les entreprises qui envisagent d'utiliser ces agents pour des tâches sensibles telles que la passation de marchés, les interactions avec les fournisseurs ou les clients, offrant ainsi un sentiment de sécurité accru. Sun mentionne également des démonstrations amusantes d'Astra, comme sa capacité à battre des jeux vidéo complexes, suggérant un potentiel d'applications plus larges. **Consommateurs vs. Entreprises : deux horizons d'application** La discussion aborde ensuite la distinction entre les cas d'utilisation pour les consommateurs et les entreprises. James Sun indique qu'OpenAI vise à créer des produits utiles pour tous. Pour les consommateurs, l'objectif est de repousser les limites du possible avec des modèles plus rapides et plus performants, ouvrant la voie à de nouvelles expériences. Pour les entreprises, la sécurité devient une préoccupation primordiale. Sun souligne que les cas d'utilisation dans les entreprises sont souvent évidents, notamment pour interagir avec des logiciels hérités qui manquent d'outils d'interface programmation d'applications (API) et qui peuvent être difficiles à utiliser. Les agents informatiques peuvent aider à surmonter ces obstacles en apprenant à utiliser ces systèmes. L'entreprise est donc le terrain où les capacités existent déjà, et les entreprises cherchent à comprendre comment les exploiter, tandis que pour les consommateurs, il s'agit de découvrir de nouveaux cas d'utilisation qui ne sont pas encore possibles avec les logiciels actuels. Ari Weinstein partage son enthousiasme pour les cas d'utilisation grand public, imaginant des agents qui accomplissent des tâches quotidiennes fastidieuses, libérant ainsi du temps pour des activités plus importantes. Il cite l'exemple de "Dots", où chaque "dot" représente un ordinateur dans le cloud attribué à un utilisateur, capable d'effectuer des actions comme naviguer sur le web, acheter des produits ou prendre des rendez-vous. **L'exemple de "Dots" et l'automatisation proactive** James Sun développe l'utilisation de "Dots", le décrivant comme un outil proactif. Il a été surpris par la capacité de "Dots" à signaler des éléments qui lui avaient échappé, comme des invitations à des réunions externes qui n'apparaissaient pas dans son calendrier. "Dots" peut également être configuré pour des objectifs de haut niveau, comme signaler tout commentaire critique de la part de sa chaîne hiérarchique. Un flux de travail intéressant mentionné est la capacité de "Dots" à se connecter à un système comme Sentry, extraire et analyser des logs pour fournir des retours sur des produits, automatisant ainsi un processus complexe. Il souligne que "Dots" est particulièrement utile pour les tâches proactives et de longue durée qui n'ont pas une forme fixe. **Équilibrer vitesse, fiabilité et coût** La conversation se tourne vers l'équilibre entre vitesse, fiabilité, utilisation des tokens et efficacité. OpenAI est engagé dans une stratégie visant à proposer plusieurs modèles avec différentes qualités et prix. Bien que la vitesse soit un facteur clé, les tâches en arrière-plan n'exigent pas toujours une exécution instantanée. Cependant, la capacité d'observer et de vérifier le bon déroulement d'une tâche rend la vitesse importante pour éviter la frustration. OpenAI a atteint un point où l'utilisation informatique est plus rapide que celle d'un humain moyen, et se rapproche d'une capacité "surhumaine". Cette progression devrait transformer l'interaction avec les ordinateurs, car les agents pourront effectuer plus rapidement que les humains la plupart des tâches manuelles. Une autre considération majeure est de donner aux clients le contrôle sur la sécurité, la fiabilité et l'autonomie par rapport à la vitesse. Pour les entreprises, il est crucial de contrôler le niveau d'intervention humaine et l'auditabilité. OpenAI a introduit des contrôles d'entreprise permettant aux entreprises de définir le degré d'intervention humaine ("human in the loop") et d'automatiser certaines approbations. Des systèmes comme "Guardian" ou "Auto-approve" utilisent des modèles intelligents pour évaluer la sécurité et l'alignement des actions de l'agent avant leur exécution. Cette granularité de contrôle est essentielle à mesure que les agents deviennent plus performants. **Réponse des éditeurs de logiciels et l'avenir du web** La discussion aborde la réaction des éditeurs de logiciels face aux agents informatiques interagissant avec leurs flux de travail hérités. James Sun note que la situation est plus simple pour les logiciels approuvés par l'entreprise. Cependant, sur le web ouvert, la situation est plus complexe. Certains modèles économiques, comme ceux des annonceurs et des éditeurs, sont menacés si les agents n'entrent pas en compte dans le calcul des revenus publicitaires. D'autres entreprises adoptent des normes comme "WebMCP" (Web Machine Control Protocol) pour permettre une utilisation conjointe des sites par les humains et les agents, où l'agent peut effectuer des tâches fastidieuses tout en laissant à l'utilisateur le contrôle des décisions finales, comme la saisie d'informations de paiement. **Définir les tâches automatisables : du répétitif à l'ambitieux** Ari Weinstein estime que les agents informatiques, notamment avec Astra, sont capables d'accomplir pratiquement tout ce qu'une personne peut faire sur un ordinateur. Il encourage à considérer systématiquement si une tâche peut être confiée à un agent. Bien que des sensibilités existent, comme le désir de contrôler le ton d'un message personnel, les modèles s'améliorent dans la gestion de l'ambiguïté en posant des questions de clarification. Les flux de travail répétitifs sont des candidats idéaux pour l'automatisation. James Sun renchérit en expliquant que l'utilisation informatique n'est pas une tâche isolée, mais plutôt une "API universelle" permettant au modèle d'agir. Plus une tâche est complexe, plus elle est susceptible d'impliquer l'utilisation informatique. Seules les tâches triviales où le clic de deux boutons est plus rapide que de déléguer à l'agent justifient encore une intervention humaine directe. **Rassurer les entreprises sur l'adoption des agents** Pour convaincre les entreprises, deux aspects sont mis en avant. Premièrement, la mise en place de contrôles déterministes. Les administrateurs peuvent définir des "sandboxes" pour les agents, limitant leur accès à certaines applications ou sites web. Ils peuvent également spécifier les actions nécessitant une approbation humaine, comme les téléchargements ou les transferts vers de nouveaux sites. Deuxièmement, il s'agit de démontrer l'alignement des modèles grâce à des évaluations internes et externes. L'expérience utilisateur joue également un rôle, avec des éléments comme le curseur animé qui rend l'observation des actions de l'agent moins ennuyeuse et plus transparente. La personnalisation des contrôles pour les entreprises et les utilisateurs individuels, ainsi que la demande de permission avant l'utilisation d'une nouvelle application, contribuent à instaurer la confiance. **Les opportunités d'automatisation pour les entreprises** James Sun identifie deux grandes catégories d'automatisation pour les entreprises. La première concerne l'automatisation des flux de travail fastidieux, comme l'interaction avec les systèmes d'enregistrement (ERP, CRM). Par exemple, dans le domaine de l'approvisionnement, les agents peuvent automatiser la création de bons de commande à partir de feuilles de calcul volumineuses et interagir avec les logiciels de passation de marchés pour contacter les fournisseurs. Les finances sont une autre catégorie intéressante, où les agents peuvent aider à la réconciliation des grands livres comptables et à l'identification d'anomalies dans des systèmes qui ne disposent pas d'API. Les équipes de vente peuvent bénéficier de l'automatisation de la prospection et de la saisie d'informations dans les systèmes CRM. La recherche de marché est également un domaine prometteur, où les agents peuvent collecter des informations et fournir des analyses. La seconde catégorie concerne l'activation de travaux plus ambitieux et créatifs. Les domaines comme la conception de circuits, l'architecture, l'ingénierie matérielle et la conception de jeux sont des pistes où les capacités d'Astra, notamment dans le domaine visuel, ouvrent de nouvelles perspectives. Bien que les entreprises se concentrent actuellement sur les opportunités "ennuyeuses", l'évolution de la compréhension des capacités des modèles devrait étendre leur utilisation à ces domaines plus complexes. **L'automatisation des tâches répétitives pour les consommateurs** Ari Weinstein ajoute que du côté des consommateurs, l'automatisation concerne également la réduction des corvées, comme le remplissage de formulaires administratifs ou la désinscription à des newsletters. Il met l'accent sur la possibilité d'accomplir des tâches qui, autrement, prendraient trop de temps, comme la gestion de feuilles de calcul financières ou la planification de repas. Il mentionne également l'émergence de nouvelles formes d'interaction avec les ordinateurs, comme la commande vocale, qui pourraient transformer la forme même des logiciels. **L'avenir des interfaces logicielles : héritage vs. natif IA** La discussion explore si l'avenir verra le maintien des systèmes hérités avec une couche d'agents par-dessus, ou l'émergence de nouveaux acteurs logiciels natifs à l'IA. Ari Weinstein pense que les deux scénarios coexisteront. Il est probable que les logiciels hérités, souvent anciens, continueront d'exister, et l'utilisation informatique est bien adaptée pour interagir avec eux. Cependant, la pression exercée par la réduction des coûts et de la complexité de création de nouveaux logiciels, combinée à la capacité des agents à interagir avec les logiciels existants, stimulera l'innovation. Des normes comme WebMCP pourraient faciliter cette coexistence. James Sun exprime une préférence pour un avenir où l'artisanat logiciel et l'expérience utilisateur personnalisée subsistent. Il redoute un internet devenu purement "faceless" où les agents interagissent entre eux. Il souligne que la création de logiciels personnalisés, même pour des niches spécifiques, est une belle opportunité. Il pense que l'interface utilisateur (UI) ne disparaîtra pas, mais que la pression des coûts bas forcera les logiciels à être de meilleure qualité. Ari Weinstein est enthousiasmé par la perspective de logiciels qui combinent des interfaces utilisateur traditionnelles avec des agents sous le capot, ces agents pouvant eux-mêmes utiliser l'informatique pour automatiser des logiciels hérités, offrant ainsi une expérience plus agréable et ciblée. Il voit un avenir où les agents peuvent se connecter et utiliser d'autres logiciels pour créer une expérience plus cohérente et éviter un monde fragmenté. **Conseils aux fondateurs et aux entreprises** Pour les fondateurs de startups souhaitant utiliser l'informatique pour résoudre des problèmes d'entreprise, James Sun recommande de comprendre profondément un problème spécifique, d'avoir une expertise sectorielle et de maîtriser le parcours client. La vitesse et le coût sont des avantages concurrentiels pour les startups. Il identifie également les industries verticales où la diffusion de l'IA est plus lente, offrant des opportunités pour des solutions complexes qui intègrent des logiciels disparates. La création d'une interface utilisateur conviviale pour ces solutions reste un défi majeur. Ari Weinstein souligne l'importance de la collaboration humain-IA. Il propose deux modèles pour les startups : soit permettre à des équipes individuelles d'utiliser des logiciels plus efficacement grâce à des agents (servis