Black Mirror dans votre cerveau, c'est pour bientôt ?

Dans cet épisode de Silicon Carnet, Saturnin Punier, cofondateur de Worldcoin, présente sa vision audacieuse pour l'avenir de l'interaction humain-machine, détaillée dans son manifeste "Face Lock". Il soutient que pour garder le contrôle sur l'intelligence artificielle, il sera peut-être nécessaire de connecter nos cerveaux directement à ces systèmes. Worldcoin, projet d'identité numérique cofondé par Sam Altman, visait initialement à prouver l'humanité dans un monde de deepfakes, notamment via la reconnaissance de l'iris. Bien que critiqué, Saturnin explique que la nécessité de tels systèmes est devenue évidente avec la puissance croissante de l'IA. Le manifeste de Saturnin, "Face Lock", explore les interfaces cerveau-machine (BCI). Il établit un parallèle entre les "scaling laws" qui ont permis l'essor de l'IA (plus de données et de calcul mènent à de meilleures performances) et leur application potentielle au décodage du cerveau. Il avance que le cerveau, tel un réseau complexe, peut être "décrypté" en collectant davantage de données. Des avancées significatives ont été réalisées dans le domaine des BCI non invasives. Il est désormais possible, sans chirurgie ni puce, de décoder des pensées : images, vidéos, textes imaginés. Par exemple, penser à un avion qui décolle permettrait d'en extraire la sémantique, voire de générer une image correspondante. Une startup de la Silicon Valley a d'ailleurs levé 50 millions de dollars pour une casquette connectée à des agents IA, démontrant l'intérêt croissant et les investissements dans ce secteur. NJ Ismaël, co-animateur, voit cette évolution comme une suite logique, rappelant le concept d'humain augmenté évoqué par Yuval Noah Harari. Il considère déjà nos téléphones comme des implants, toujours plus proches de notre corps, et la connexion directe au cerveau comme une étape naturelle. Il souligne que nos intentions et nos données (appels, recherches, déplacements) sont déjà massivement captées via nos téléphones. Le passage à la lecture directe des pensées représente une barrière psychologique, mais pourrait apporter des bénéfices, notamment pour valider des actions humaines derrière les actions d'agents IA, un enjeu de sécurité et de traçabilité. Saturnin envisage même des applications futures comme la rémunération des idées ou des inventions, potentiellement via des protocoles basés sur la blockchain, permettant de breveter une pensée dès sa conception et de percevoir des royalties à vie. Les cas d'usage grand public des BCI vont au-delà du médical. La communication avec les machines évolue : des interfaces manuelles aux claviers, puis à la voix, et maintenant aux données biologiques ambiantes (Whoop, Oura). La pensée représente la forme de communication la plus naturelle et la plus efficace avec une machine, car elle évite la "compression" et la perte d'information inhérentes à la parole ou à l'écriture. L'objectif est une interaction instantanée où la machine comprend les intentions sans formulation explicite. Saturnin illustre la perte d'information entre la pensée et l'expression : vouloir qu'un texte soit plus court est une simplification de pensées complexes sur la structure, le vocabulaire, etc. L'incapacité de l'IA à comprendre ces nuances, comme l'a expérimenté Carlos en design de logo, souligne le besoin de décoder directement la pensée. Les BCI permettraient une itération rapide dans la création (design, musique, vidéo), transformant des heures de travail en minutes. Le secteur des neurotechnologies connaît une croissance fulgurante, avec des levées de fonds massives. La Chine autorise des implants cérébraux commerciaux, et des entreprises comme Neuralink aux États-Unis développent des technologies similaires. La compétition internationale est rude, et les pays les plus aptes à accepter des compromis sociétaux pourraient prendre l'avantage. La Silicon Valley, avec des personnalités comme Alexander Wang, envisage déjà des implants dès la naissance. L'un des moteurs de ces développements est l'épuisement des données textuelles disponibles sur internet, le "carburant" de l'IA. Saturnin suggère que le cerveau humain représente une nouvelle source de données phénoménale. Il compare le texte actuel aux "sous-titres" de l'activité cérébrale, alors que les données brutes du cerveau constitueraient la "bande son originale", incluant hésitations, intuitions et émotions. Il estime que 13 millions d'heures d'enregistrement cérébral seraient équivalentes à un entraînement massif d'IA, pour un coût bien inférieur à celui des méthodes actuelles. Il décrit l'intelligence artificielle comme "jagged", c'est-à-dire très performante dans certains domaines mais naïve dans d'autres, car entraînée sur des artefacts externes et non sur l'expérience interne humaine. Les BCI pourraient combler ce manque et permettre une IA plus alignée avec l'humanité, capable de comprendre la douleur, les émotions et les nuances éthiques. Les risques de dérives sont réels, rappelant des épisodes de Black Mirror où la technologie se retourne contre l'utilisateur. Cependant, la décision d'adopter ces technologies reposera sur un arbitrage sociétal entre bénéfices et inconvénients. L'alignement de l'IA avec les valeurs humaines pourrait passer par cette connexion directe au cerveau. Saturnin, basé sur ses observations et prédictions passées, constate une accélération exponentielle de la capacité de réflexion de l'IA, prévoyant que d'ici 2040, l'IA générera quotidiennement l'équivalent de toute la pensée humaine accumulée depuis l'origine. Cette vitesse de changement rend difficile l'adaptation sociétale. Face à cette évolution, il prône une approche basée sur la transparence et des systèmes décentralisés plutôt que sur la confiance aveugle. Il ne s'agit pas tant de peur de la destination, mais de la rapidité du changement. L'intégration des BCI est vue comme un moyen de communiquer nos valeurs et notre éthique à l'IA, évitant ainsi la création d'une intelligence "aliène". Saturnin a quitté son rôle opérationnel chez Worldcoin pour se consacrer à des projets personnels, conseillant des fonds et investissant dans la Deeptech, avec l'intention de lancer une startup dans le domaine des neurotechnologies. Il souligne l'importance de ces avancées pour anticiper et potentiellement diriger un futur où l'IA surpassera largement l'intelligence humaine, transformant notre civilisation à un rythme sans précédent.