The New AI Agents That Shop, Plan, and Gossip

Le paysage des agents IA évolue à une vitesse fulgurante, transformant notre interaction avec la technologie et, potentiellement, avec nous-mêmes. Lors d'une récente discussion, des experts ont exploré l'état actuel et l'avenir de ces assistants, en mettant l'accent sur les défis, les opportunités et les aspects les plus subtils de leur intégration dans nos vies. La communauté des développeurs d'agents IA est incroyablement ouverte et collaborative, comme l'a souligné un récent meetup réunissant plus de 100 passionnés. Loin d'être une course aux armements, cette phase est comparée à un "Cambrien" où chacun apprend et partage, reconnaissant que le domaine est encore largement inexploré. L'idée n'est pas d'avoir un seul agent universel, mais une multitude d'agents spécialisés, répondant à la diversité des besoins humains. Ces agents pourraient se spécialiser dans la gestion des finances, la planification de voyages, la santé, le calendrier, ou simplement servir de caisse de résonance pour nos pensées. Certains seront pragmatiques et axés sur l'accomplissement de tâches ("Hey, je dois faire ça."), d'autres seront connectés à nos e-mails pour prioriser les actions, et d'autres encore seront ludiques, voire « gossipeurs », facilitant des connexions sociales inattendues. Un point de friction majeur dans l'adoption des agents IA est la question de la confiance. Les sondages révèlent que la confiance est la principale préoccupation des utilisateurs, citée dans 22% des messages. Ce sentiment est comparé à celui d'un parent laissant un enfant jouer dans un jardin sans clôture : une inquiétude constante quant aux risques potentiels. L'analogie de la "clôture" est utilisée pour illustrer la nécessité de définir des limites claires pour les agents, leur accordant l'accès à certaines données et applications, mais pas à d'autres, afin d'éviter les fuites indésirables, comme un agent personnel mélangeant des informations financières privées avec des communications professionnelles. La confiance est intimement liée à la notion de "permissions" et de "surveillance" améliorées. Au lieu de règles rigides, il est suggéré de donner aux modèles des "lois et principes" qualitatifs, leur permettant de faire des jugements nuancés, à l'instar d'un employé humain. Les agents sont parfois comparés à des enfants : capables mais manquant de discernement. L'autonomie des agents, bien que recherchée pour des tâches comme la réservation de voyages, soulève la question du contrôle humain. Les utilisateurs souhaitent souvent conserver la décision finale, l'agent effectuant le travail préparatoire. Cette réticence à céder le contrôle est comparée à la méfiance initiale envers le commerce électronique : en 1997, 60-90% des internautes jugeaient prématuré de partager leurs informations de carte de crédit en ligne. Il existe une divergence entre les "préférences révélées" (ce que les gens font réellement, comme partager des données pour des avantages minimes) et les "préférences déclarées" (ce qu'ils disent vouloir, comme la protection de la vie privée). L'embarras social et la "signalisation sociale" sont des domaines où la confiance et les hypothèses sont particulièrement sensibles. L'exemple d'un agent divulguant des informations financières personnelles sur un canal Slack professionnel illustre le potentiel d'embarras. De même, une campagne marketing offrant un million de dollars de pizzas gratuites en échange de l'accès à l'intégralité de Google Workspace montre la volonté des utilisateurs de renoncer à leurs données pour des avantages tangibles. Le compromis entre vie privée et utilité est central. Si l'utilité est significativement meilleure, les utilisateurs sont prêts à faire des concessions sur la vie privée. Cependant, à utilité égale, la vie privée l'emporte. Apple, par exemple, met l'accent sur la protection de la vie privée dans ses appareils et services. Parallèlement, les utilisateurs recherchent la puissance de l'IA, créant une tension entre la recherche de performance et la confiance. L'embarras, qu'il soit personnel ou professionnel, est un facteur clé. La capacité d'un agent à comprendre les préférences subtiles, comme l'intolérance au lactose lors d'une commande de pizza, est cruciale pour éviter des situations gênantes. La gestion du ton et de la confiance est essentielle, particulièrement pour les agents envoyant des e-mails au nom des utilisateurs. La transparence sur l'utilisation de l'IA, comme signer ses e-mails avec le nom du modèle utilisé, peut aider à maintenir la confiance, tant que les utilisateurs ne se sentent pas trompés. La distinction entre vie privée, jugement et discrétion est importante. Des tests ont été menés pour évaluer le jugement des agents, notamment dans la commande de fleurs. Les critères étaient le coût et le délai de livraison. Des agents comme Instinct, Kicker et Season ont bien performé en équilibrant ces deux contraintes, tandis que d'autres ont eu du mal à prioriser le prix. L'ajout de préférences plus complexes, comme un voyage de luxe mais économique à Los Angeles, a révélé des approches variées : certains agents ont privilégié le temps, d'autres le coût, et Instinct a trouvé un équilibre. L'interaction avec l'utilisateur pour comprendre ces tensions et présenter des compromis est jugée essentielle. L'expérimentation où des agents ont discuté entre eux pour construire un itinéraire a montré que Grockbot était capable d'intégrer les contributions des autres. La question de l'expéditeur des fleurs (pour soi-même ou pour un tiers) soulève des enjeux de perception. Pour un cadeau, l'objectif n'est pas seulement le prix, mais aussi l'impression laissée. Les agents doivent donc tenir compte de dimensions secondaires comme l'adéquation du cadeau aux goûts du destinataire. La discrétion, comme ne pas afficher le prix, est également un facteur. La nécessité de rendre explicites les préférences implicites est un défi. Les utilisateurs doivent parfois admettre des traits comme "être fauché" pour que l'agent puisse agir en conséquence. Le contexte accumulé par les agents est un atout majeur. L'agent Dots, bénéficiant de l'historique des conversations avec ChatGPT, peut "savoir" que quelqu'un est un peu fauché, même s'il affirme le contraire. Cette capacité à conserver et utiliser le contexte est un avantage concurrentiel. La portabilité de la mémoire entre les agents est un sujet complexe, avec une résistance au transfert de données observée chez certains. Les fichiers de mémoire exportés peuvent être révélateurs, voire dérangeants, quant à la profondeur de la connaissance de l'agent sur l'utilisateur. Les nouvelles méthodes d'intégration, comme le téléchargement d'un fichier de conversation ChatGPT pour l'importer dans un autre agent, ou les appels de découverte où l'agent pose des questions pour recueillir du contexte, sont des approches innovantes. L'utilisation de photos comme source de contexte est particulièrement prometteuse, mais soulève des questions de confiance. Des entreprises comme Dazzle mettent l'accent sur une politique de "l'oubli" pour les informations non essentielles, visant à rassurer les utilisateurs. L'analyse des captures d'écran, bien que riche en informations sur les centres d'intérêt et les habitudes, peut voir sa valeur diminuer avec le temps. L'idée est que si les utilisateurs s'habituent à capturer et utiliser ces informations, la valeur sera accrue. Des plateformes comme "Taste" permettent d'organiser ces éléments visuels pour créer des "mood boards" et les utiliser comme références pour des projets futurs, formant ainsi un "profil de saveur" personnel. Le shopping est une catégorie d'utilisation majeure, notamment via Amazon et le commerce de détail. La question se pose de savoir si les agents, ayant accès à des milliers de photos et d'informations sur nos habitudes, pourraient mieux anticiper nos désirs d'achat que nous-mêmes. Les entreprises du "longtail" (produits de niche avec un marketing moins développé) pourraient bénéficier de ces agents capables de rechercher des articles parfaitement adaptés aux goûts individuels, contournant les plateformes d'agrégation. L'idée est que les consommateurs deviendront plus rationnels grâce à leurs agents, forçant les entreprises à se concentrer davantage sur la qualité de leurs produits et services. Cependant, une vision alternative suggère que les agents développeront leurs propres "préférences révélées" et "irrationalités", par exemple une préférence marquée pour les API bien documentées. Ils auront besoin de raccourcis et de mécanismes de recherche de qualité. La question de savoir si les agents nous rendront plus rationnels ou simplement plus rapides à accéder à ce que nous voulons est débattue. La capacité d'un agent à répondre aux désirs et aux goûts individuels est primordiale, sous peine d'être remplacé. Le "paternalisme" est un écueil pour les produits de consommation. Les utilisateurs ne veulent pas toujours être guidés vers l'efficacité ou la rationalité ; ils peuvent vouloir explorer des désirs moins rationnels, comme dépenser de l'argent ou s'imaginer sous un jour plus favorable. La conception des agents doit tenir compte de ces aspirations. Les agents évoluent de simples assistants de productivité vers des outils plus sophistiqués. Des plateformes comme Wabby explorent l'interaction avec plusieurs fils de vie, comme une liste de lecture de médias, et fournissent des interfaces visuelles. Le concept de "multiplayer" et d'interactions entre agents est prometteur, créant de nouvelles dynamiques sociales. L'idée que les agents puissent interagir entre eux, partager des informations sur leurs utilisateurs et même faciliter des rencontres est fascinante. Cette "entropie" inattendue peut mener à la sérendipité, créant des connexions sociales et des découvertes imprévues. L'interaction entre agents peut mener à des "contrats sociaux" nouveaux, particulièrement dans des environnements créés spécifiquement pour eux, plutôt que d'être ajoutés à des conversations existantes où la confiance et les attentes sont déjà établies. La possibilité pour les agents de faciliter des rencontres basées sur des intérêts communs, de proposer des activités, voire de créer des "secrets" partagés pour encourager les interactions humaines, ouvre des perspectives sociales inédites. La recherche de données pour une personnalisation plus poussée explore de nouvelles sources, au-delà des messages et des photos. Les données issues des objets connectés (thermostats, aspirateurs) pourraient fournir des informations passives sur les habitudes et préférences des utilisateurs. L'historique d'achat sur des plateformes comme Amazon est également une mine d'informations potentiellement sous-exploitée. L'intégration des agents dans des événements sociaux (dîners de famille, matchs) pourrait fournir des signaux de comportement plus riches que les données textuelles seules. La question de savoir si l'observation active par un agent modifie la qualité des interactions reste ouverte. Un défi majeur est de distinguer les curiosités temporaires des préférences réelles. Les agents doivent comprendre que l'intérêt pour la Coupe du Monde ne signifie pas une passion pour le football à long terme. L'utilisation du "mode invisible" pour éviter que ces explorations ne faussent le profil de l'utilisateur est une solution, mais elle limite la capacité de l'agent à apprendre. À l'avenir, on s'attend à une innovation accrue dans le domaine de l'entreprise, avec un déplacement de l'attention actuellement focalisée sur le consommateur. Les agents deviendront plus ludiques, aidant les utilisateurs à penser à voix haute, à rire et à créer des liens de confiance par des interactions plus personnelles. L'adoption par le grand public, y compris les personnes technophobes, est une tendance clé, comme le montre l'exemple d'une mère utilisant un agent pour trouver un chien ressemblant à celui de la famille. La prochaine vague d'innovation pourrait se concentrer sur les aspects de nous-mêmes que nous hésitons à explorer ou à révéler, même à nous-mêmes. Les agents capables de bâtir cette confiance profonde, agissant comme des "agents sombres" discrets, détiendront un potentiel immense. Au-delà de la simple productivité, les agents pourraient devenir des "superpouvoirs secrets", aidant les individus à devenir la meilleure version d'eux-mêmes, à réaliser