OpenAI's Most Controversial Move Ever

OpenAI a introduit une fonctionnalité particulièrement controversée pour ChatGPT : l'historique de l'ordinateur. Cette nouvelle option permet à ChatGPT de mémoriser et de suivre l'activité de l'utilisateur tout au long de la journée, une capacité inédite qui va au-delà de la simple mémoire des interactions passées avec l'IA. Auparavant, ChatGPT ne se souvenait que de ce qui lui était explicitement dit, mais désormais, il peut savoir ce que l'utilisateur a réellement fait. Cette fonctionnalité, bien qu'extrêmement puissante, soulève également d'importantes préoccupations en matière de confidentialité. Pour l'instant, elle est déployée de manière très limitée. Elle n'est disponible que dans l'application de bureau ChatGPT sur Mac, et nécessite un abonnement Pro, Business ou Enterprise (au moins 100 $ par mois pour les particuliers). De plus, elle n'est pas accessible en Europe, en Suisse et au Royaume-Uni. L'auteur de la vidéo, basé aux États-Unis, a dû utiliser un VPN pour y accéder. Dans les paramètres de l'application de bureau ChatGPT, un nouvel onglet "Historique de l'ordinateur" apparaît dans la catégorie "Intégrations". Il est indiqué que ChatGPT peut résumer l'activité à travers les applications et les sites web utilisés, sans enregistrer l'écran ou l'audio. L'objectif est de permettre à l'utilisateur de poser des questions sur son travail en cours, d'obtenir de l'aide sans tout réexpliquer, et de découvrir des opportunités d'automatisation de tâches répétitives. L'auteur souligne que cette fonctionnalité pourrait être le "manque à gagner" pour rendre l'IA plus accessible et utile. Actuellement, l'automatisation et l'intégration de systèmes d'IA nécessitent des compétences techniques avancées. L'historique de l'ordinateur, en enregistrant l'activité séquentielle de l'utilisateur, offre un contexte d'une richesse inégalée pour l'IA. Un exemple concret illustre cette puissance : la création d'un "skill" (compétence) pour un flux de travail. Sans cette fonctionnalité, l'utilisateur devrait décrire manuellement toutes les étapes. Avec l'historique de l'ordinateur, ChatGPT peut créer un skill réutilisable directement à partir de l'activité récente, comme un flux de téléchargement de vidéo ou un processus de conception. L'IA peut même suggérer des tâches à automatiser. Cependant, cette capacité de surveillance totale par ChatGPT suscite des inquiétudes légitimes. L'IA voit littéralement tout ce que fait l'utilisateur sur son ordinateur. Bien qu'OpenAI affirme que l'utilisateur a le contrôle (pause, effacement de l'historique, gestion des applications incluses ou exclues), et recommande d'exclure les applications sensibles comme celles de santé ou de finance, ainsi que de mettre en pause l'historique lors de communications, ces mesures semblent plus une disposition légale qu'une véritable protection contre l'espionnage potentiel. L'auteur a configuré la fonctionnalité en incluant uniquement Finder, TextEdit et Chrome, et a ensuite simulé une journée de travail. Il a rédigé un document sur la refonte de l'intégration communautaire, l'a transformé en plan de projet d'une page à l'aide de ChatGPT, l'a sauvegardé en PDF, l'a déplacé dans un nouveau dossier, puis a envoyé le plan par e-mail. En demandant ensuite "Qu'ai-je fait aujourd'hui ?", ChatGPT a pu résumer avec précision toutes ces actions. La démonstration la plus impressionnante a été de demander à ChatGPT de créer un "skill" basé sur le travail de conception effectué. L'IA a non seulement créé le skill, mais a également intégré tout le contexte du travail réalisé, ce que l'auteur qualifie de "magie littérale". Il exprime sa préoccupation face à cette puissance et ce saut technologique, tout en reconnaissant le potentiel immense. La discussion porte ensuite sur la manière dont l'IA acquiert du contexte. Les prompts, les skills, les connecteurs et les systèmes de mémoire sont autant de méthodes pour enrichir ce contexte. L'historique de l'ordinateur représente la forme ultime de contexte, car il capture non seulement les actions, mais aussi leur séquence temporelle. Cette capacité de suivi temporel séquentiel est une avancée majeure par rapport aux systèmes d'IA existants. L'auteur compare cette fonctionnalité à celle de Grok de xAI, qui simplifie l'interaction avec les agents IA. Il prédit que la combinaison d'une interface utilisateur simple (comme une application de messagerie) et d'un système d'historique de l'ordinateur sera la clé de l'adoption massive de l'IA par le grand public. Les agents IA, auparavant complexes à configurer, pourraient ainsi trouver leur utilité grâce à cette capacité à comprendre le flux de travail de l'utilisateur. La question de la sécurité devient primordiale. Contrairement à des approches de sandboxing strictes (comme l'utilisation d'un Mac Mini dédié pour des agents IA), cette nouvelle fonctionnalité s'intègre directement dans le flux de travail quotidien de l'utilisateur. La décision de ce que l'on est prêt à partager avec les entreprises technologiques devient donc cruciale. Enfin, l'auteur met en évidence la capacité de l'IA à identifier des tâches automatisables, y compris celles qui se trouvent à l'intérieur des documents travaillés. Il voit cela comme un outil d'audit d'automatisation exceptionnel. Il