J’ai donné accès à toutes mes données à une IA : qu’est-ce qui s’est passé ?

L'intelligence artificielle, qui servait autrefois à poser des questions, commence maintenant à gérer des aspects de notre vie quotidienne, notamment avec l'émergence d'agents IA. Des entreprises comme Instinct, ayant levé 1 milliard de dollars pour une valorisation de 10 milliards, et Meta avec son agent "Muse" intégré à WhatsApp, promettent d'organiser voyages, gérer réservations ou surveiller des opportunités. Ce développement soulève la question de notre disposition à déléguer de plus en plus de tâches à ces agents. Michel Lévi Provençal, créateur de Captaine, une société développant de tels agents, explique que, contrairement à un chatbot qui répond à des questions, un agent IA automatise des tâches. Plus précisément, un agent automatise l'automatisation en définissant ses propres processus pour atteindre un but, voire en se fixant ses propres objectifs. Cette capacité représente une révolution, mais soulève d'importantes questions éthiques et de contrôle. Pierre, un autre intervenant, a récemment abandonné son projet "Scoram" car il a été rattrapé par les avancées rapides d'entreprises comme OpenAI et Anthropic. Il souligne la difficulté d'innover face à la puissance de calcul et aux capacités de ces géants, qui peuvent écraser les petites structures. Cependant, il tempère cette vision en affirmant qu'il reste de nombreux domaines d'innovation pour des entreprises plus modestes, car l'IA ne peut pas tout faire et ne couvre pas tous les sujets. Beaucoup de gens croient à tort qu'un simple "prompt" peut reproduire des produits complexes, alors que de nombreux logiciels nécessitent des milliers de lignes de code et une intelligence humaine considérable. Michel insiste sur l'importance du contrôle de l'utilisateur sur ces agents. Alors que des outils comme Open Clow ont marqué un tournant en permettant aux IA d'orchestrer des tâches de manière autonome, il est crucial de définir des limites. Ces agents peuvent se connecter à nos e-mails, agendas et bases de données, croiser les informations et proposer des actions. La limite n'est pas technique, mais éthique : jusqu'où laisser ces agents prendre des décisions pour nous ? Michel plaide pour des "garde-fous", comme la transparence sur les règles de fonctionnement de l'agent (son "harnais") et la possibilité de les modifier, afin de conserver notre souveraineté cognitive. L'émission est sponsorisée par Conto, un compte professionnel qui intègre désormais l'IA pour gérer les factures et relancer les clients en retard. L'agent IA de Conto accède aux données en temps réel, prépare les factures et les relances, mais rien ne se fait sans l'accord de l'utilisateur, et les données restent hébergées en Europe. Pierre estime que l'IA, au-delà du simple gain de temps, offre une réponse structurelle à la surcharge mentale. Elle peut automatiser des tâches irritantes ou celles que l'on oublie de faire, comme se désabonner d'un service inutilisé ou vérifier des commissions bancaires. Il évoque l'exemple d'un ami qui a créé un agent pour gérer les conversations "sans valeur" avec sa femme, libérant ainsi du temps pour des échanges plus significatifs. Bien que cette approche puisse sembler une "anesthésie sociale", elle est présentée comme une expérimentation. Michel partage les usages les plus courants de Captaine parmi ses centaines d'utilisateurs. La veille concurrentielle est très populaire, avec des agents fournissant des informations pertinentes. Certains utilisateurs ont même créé des chaînes de production vidéo, générant du son et des vidéos avec l'aide de Captaine. D'autres l'utilisent pour des activités inattendues, comme apprendre la guitare jazz. Professionnellement, Captaine prépare des brouillons d'e-mails en recoupant l'agenda et les données, mais l'envoi final reste sous le contrôle de l'utilisateur. Michel souligne que Captaine permet aux utilisateurs de choisir explicitement les capacités qu'ils souhaitent installer, garantissant ainsi un contrôle essentiel sur l'agent. Carlos raconte son expérience avec Instinct, un agent très en vogue dans la Silicon Valley. Après l'avoir installé et lui avoir donné accès à presque toute sa vie numérique (e-mails, calendrier, Google Drive, SMS, WhatsApp, disque dur), rien ne se passe pendant 48 heures. Puis, l'agent se réveille de manière autonome, sans aucune demande de Carlos. Il l'alerte sur un problème de tournage et sur une opportunité d'investissement, lui préparant même un e-mail. Carlos décrit un "wow effect" face à cette capacité de l'agent à analyser sa vie et à revenir vers lui avec des propositions et des alertes, sans qu'il ait eu à solliciter l'agent. Pierre nuance cette expérience, estimant que si l'agent doit attendre un "go" de l'utilisateur pour agir, il ne s'agit pas d'un agent autonome, mais plutôt d'un outil d'analyse qui fournit un rapport. Pour lui, un agent prend la décision et agit en conséquence. Carlos rétorque que, dans son cas, l'agent prend déjà la décision et attend sa validation, mais qu'il a les moyens d'agir (envoyer un e-mail, modifier l'agenda, appeler un restaurant). Michel confirme que ces fonctionnalités sont techniquement réalisables avec des solutions comme Open Clow et que Captaine pourrait les implémenter. Cependant, il a choisi de ne pas le faire par défaut, privilégiant le contrôle de l'utilisateur. Il estime que le "wow effect" d'Instinct est un coup de génie marketing pour les "early adopters", mais qu'un tel manque de contrôle peut être catastrophique dans un contexte professionnel, où un agent pourrait envoyer des informations confidentielles à la mauvaise personne. Michel souligne le danger de la "génération de choses inattendues" par ces outils puissants et l'importance des gardes de sécurité. Il mentionne que Meta, avec Muse, a retardé le lancement de plusieurs mois pour des raisons de sécurité, même s'il y a peut-être une part de marketing. L'idée est que chaque utilisateur dispose de sa propre machine virtuelle, un assistant avec son propre ordinateur et téléphone, agissant pour son compte. L'objectif est de rendre accessibles à tous des services autrefois réservés aux personnes ultra-riches. Pierre s'interroge sur les limites de l'action de ces agents et la manière dont ils prennent des décisions. Il prend l'exemple d'un agent qui réserverait un billet de train : comment choisirait-il entre deux horaires sans comprendre le contexte humain (envie de dormir plus, besoin de plus de marge avant un rendez-vous, confort du train) ? Carlos pense que l'IA sera bientôt capable de comprendre ce contexte aussi bien que l'humain, en accédant aux données personnelles (rythme de sommeil, heures de travail) et en adaptant les décisions en conséquence. Michel confirme que son Captaine fait déjà cela, adaptant sa journée en fonction de son rythme de sommeil et de ses activités, même s'il ne modifie pas l'agenda sans son accord. Michel met en garde contre le modèle économique des géants de l'IA, qui repose sur l'enfermement des utilisateurs. En confiant notre vie à ces plateformes, nous perdons le contrôle sur nos données et nos décisions. Captaine, en revanche, offre une transparence totale sur la mémoire de l'agent et ses critères de décision, permettant à l'utilisateur d'accéder et d'exporter ces informations. Carlos reconnaît la puissance compétitive des géants, qui accumulent des données massives et connaissent les utilisateurs mieux qu'ils ne se connaissent eux-mêmes. Il observe que, par le passé, les utilisateurs ont souvent accepté cette "servitude" pour un service optimal, préférant la commodité au contrôle de leurs données. Michel insiste sur la nécessité de conserver la souveraineté de notre "deuxième cerveau", c'est-à-dire de pouvoir récupérer et transférer nos données et nos configurations d'agent si nous souhaitons changer de plateforme. L'émission se termine par un test : que délégueriez-vous à un agent ? - **Répondre aux e-mails :** Michel délègue la réponse, mais garde le contrôle de l'envoi. Pierre le délègue presque entièrement, ne faisant qu'appuyer sur "envoyer", car il considère l'e-mail comme un outil professionnel à faible enjeu. - **Acheter un billet d'avion :** Michel le délègue déjà, en utilisant des cartes virtuelles avec des limites de dépense de 100 euros. Pierre le délègue également, sous contraintes de sécurité similaires. - **Signer un contrat :** Michel refuse de déléguer la signature, même s'il utilise des automatisations pour comparer des offres. Pierre, en revanche, serait prêt à le déléguer si la sécurité est garantie, car il trouve la puissance de l'IA sur les documents juridiques extraordinaire. - **Licencier quelqu'un :** Les deux refusent. Michel estime que le lien humain et la manière d'annoncer une telle décision sont trop importants. Pierre se sent responsable de l'échec et pense devoir vivre cette mauvaise situation personnellement, car "on n'est pas des machines". En conclusion, les intervenants notent une évolution dans leur perception de l'IA. Ils reconnaissent les bénéfices en termes de productivité, de "peace of mind" et de libération d'espace mental, tout en étant conscients des risques liés à la place croissante que ces machines occupent dans nos vies. Ils appellent les auditeurs à partager leurs propres limites de délégation.