Is AI The Next Stage Of Human Evolution? - Robert Wright

L'intelligence artificielle (IA) est une extension de la pensée évolutionnaire, non seulement en tant que produit de l'évolution mais aussi en tant que processus évolutif en soi. Mon livre précédent, "The Moral Animal", explorait l'esprit humain et ses biais moraux. L'IA, qui accomplit des tâches auparavant réservées à l'esprit humain, soulève des questions similaires. Pour traverser cette révolution de l'IA avec succès, nous devons affronter la psychologie du tribalisme plus efficacement que par le passé. La question centrale est de savoir si cette technologie, capable de merveilles, est aussi terrifiante et pourrait mal tourner si nous ne l'abordons pas sagement. Je crois que la réponse est oui. Il existe trois scénarios futurs possibles : une destruction totale, une croissance exponentielle sans précédent, ou une augmentation minime du PIB. Je suis agnostique quant aux scénarios apocalyptiques de science-fiction, mais je les prends plus au sérieux après mes recherches. Ce qui est certain, c'est que l'IA provoquera un "tremblement de terre" déstabilisant à plusieurs niveaux, d'où la nécessité d'une approche prudente. Avant d'écrire ce livre, je n'étais pas un optimiste débridé concernant l'IA. J'avais même discuté avec des "doomers" comme Eliezer Yudkowsky il y a 15 ans. À l'époque, je rejetais leurs arguments, pensant que la volonté de puissance n'est pas une propriété générique de l'intelligence. Aujourd'hui, je respecte davantage l'argument apocalyptique de la science-fiction. Ma nature me pousse à chercher les problèmes, et je crois que la société a besoin de personnes qui s'inquiètent, comme de celles qui sont optimistes, pour faire avancer le débat. Jeffrey Hinton, l'un des pionniers de l'IA, que j'ai interviewé en 1983, était alors un fervent enthousiaste des réseaux neuronaux. Il avait prédit la puissance de ces systèmes une fois les microprocesseurs devenus abordables, et il avait raison. Ironiquement, il a trouvé l'évolution de l'IA plus effrayante qu'il ne l'avait imaginé. L'IA n'est pas un simple développement technologique, mais un événement seuil dans l'histoire planétaire. Beaucoup ne saisissent pas son ampleur, en partie à cause d'une incompréhension de son fonctionnement. L'IA est entraînée, un processus d'apprentissage, mais aussi d'évolution. Elle effectue une "ingénierie inverse" des fonctionnalités cognitives qui ont mis des millions d'années à évoluer chez l'homme. Par exemple, pour la génération de langage, les machines ont développé leur propre système de représentation du sens des mots sans qu'on leur dise de le faire. Ma principale erreur en 1983 était de croire que nous devrions programmer explicitement le sens des mots dans les machines. Or, il suffit de les entraîner à générer du langage. Ce processus renforce sélectivement les connexions neuronales, imitant des millions d'années d'évolution humaine pour représenter le sens des mots, tout en apprenant une langue spécifique, comme un être humain. Ces machines "récapitulent" la sélection naturelle, accomplissant les mêmes prouesses cognitives, même si leurs mécanismes ne sont pas identiques aux nôtres. Une fois que l'on comprend que l'IA n'a besoin que de données pour se développer, on réalise son potentiel. Que ce soit pour les voitures autonomes ou pour remplacer des travailleurs, il suffit de collecter les données (visuelles, auditives, textuelles, etc.) et les machines feront le reste. Mark Zuckerberg, par exemple, licencie des milliers de travailleurs tout en suivant leurs frappes au clavier, car les données collectées permettront de répliquer leurs fonctions cognitives. Il y a eu des cas d'évolution convergente entre l'IA et la biologie. Par exemple, les réseaux neuronaux ont développé des "détecteurs de bords" pour la reconnaissance visuelle, une structure similaire à celle que l'évolution a intégrée chez l'homme. Cela montre que l'IA, en optimisant ses capacités, découvre des solutions efficaces déjà trouvées par la sélection naturelle. L'IA représente une nouvelle forme d'intelligence, une extension de l'intelligence organique, même si elle est basée sur le silicium. Elle pourrait surpasser la nôtre et être considérée comme une nouvelle forme de vie. Cette évolution coïncide avec un second seuil majeur : l'émergence d'un "cerveau global" via l'interconnexion technologique et la collaboration intellectuelle mondiale. Pierre Teilhard de Chardin avait introduit le concept de "noosphère" (l'enveloppe pensante de la Terre) en imaginant les neurones comme des cerveaux humains. Aujourd'hui, nous devons considérer la possibilité que les neurones les plus importants soient des cerveaux de silicium. Les discussions sur l'IA sont souvent teintées de langage religieux. Les "doomers" comme Yudkowsky, malgré leur rejet de l'éducation religieuse, affichent un zèle prophétique. D'un autre côté, les enthousiastes de la singularité, qui prévoient une accélération technologique exponentielle menant à un futur imprévisible, font preuve d'une foi presque religieuse. La singularité, en physique, désigne un point au-delà duquel les lois connues s'effondrent. Cette incertitude devrait rendre les optimistes plus prudents. L'évolution biologique, et maintenant culturelle et technologique, montre une direction systématique vers des niveaux de complexité et d'organisation toujours plus élevés. Cette tendance, bien que le fruit de processus matériels, peut donner l'intuition d'un dessein. L'idée d'une simulation, prise au sérieux par beaucoup, implique également une intention ou un concepteur. Il y a aussi une dimension morale. Au fur et à mesure que les organisations sociales se sont développées, l'humanité a connu un certain progrès moral. Pour naviguer la révolution de l'IA, nous aurons besoin d'une "révolution morale". Il nous faut agir en tant que communauté mondiale cohésive, surmontant nos biais cognitifs égoïstes. Le titre de mon livre, "The God Test", suggère que l'IA est une épreuve divine : pour en sortir victorieux, notre espèce doit s'améliorer moralement. Si nous n'opérons pas cette "mise à niveau morale", les conséquences pourraient être graves. Je ne parle pas d'illumination bouddhiste, mais d'une plus grande conscience et objectivité. Être plus calme et attentif permet de mieux comprendre les points de vue des autres, une compétence cruciale pour résoudre les conflits qui nous divisent. Pourquoi est-ce si important à l'ère de l'IA ? Lors de la Guerre Froide, les États-Unis et l'URSS ont pu conclure des accords de contrôle des armements malgré des tensions extrêmes. Mais l'IA est une technologie beaucoup plus complexe à gérer. La vérification est plus difficile, et les menaces sont multiples et diffuses. Nous aurons besoin de bien plus que quelques traités. Je préconise une "transparence organique", allant au-delà de la surveillance formelle. Des échanges économiques, culturels et scientifiques riches entre nations favoriseraient une meilleure compréhension mutuelle, une confiance accrue et une connaissance plus fine de ce qui se passe dans les laboratoires. L'IA présente des menaces qui ne peuvent être gérées par une politique nationale seule. Pour gérer ces menaces et les arrangements formels nécessaires, nous devons apaiser la planète et encourager des engagements amicaux entre nations. La bienveillance ne vient pas naturellement avec l'intelligence. L'intelligence est presque neutre à cet égard. Cependant, les relations entre nations deviennent de plus en plus "à somme non nulle" grâce à la technologie. Des problèmes comme les armes nucléaires ou le changement climatique nécessitent une coopération internationale. Cela signifie qu'il est dans notre intérêt de coopérer, même sans bienveillance. L'empathie cognitive – comprendre ce qui se passe dans l'esprit des autres – est essentielle, sans forcément ressentir leur douleur ou les aimer. C'est une compétence que nous devons cultiver et qui nous aidera à surmonter nos biais cognitifs. Beaucoup pensent que l'IA super-intelligente sera intrinsèquement bienveillante. Je ne le crois pas. L'évolution humaine a optimisé la survie et la reproduction ; l'IA optimise des objectifs définis. Elle ne sera pas nécessairement "programmée" avec la bienveillance ou le souci de l'humanité. Elle pourrait nous percevoir comme inutiles ou nuisibles si nous nous mettons en travers de ses objectifs. L'intelligence, y compris l'IA, peut développer des comportements comme la tromperie ou la recherche de pouvoir pour atteindre ses buts. Ce ne sont pas des comportements "bons" ou "mauvais" en soi, mais des stratégies efficaces. Le risque n'est pas que l'IA soit malveillante, mais qu'elle soit expédiente et que nos intérêts ne s'alignent pas. Les préoccupations légitimes des "doomers" incluent la déstabilisation massive. La perte d'emplois, même si de nouvelles opportunités émergent, sera désorientante. Il y aura des problèmes sociaux (par exemple, les enfants et l'IA). L'IA pourrait être utilisée pour créer des bio-armes ou des cyber-attaques autonomes, comme un virus numérique se répliquant et s'emparant de l'infrastructure informatique mondiale. Ce sont des menaces à somme non nulle, nécessitant une coordination internationale. Nous devrions ralentir le rythme de développement de l'IA, mais la concurrence internationale, notamment avec la Chine, rend cela difficile. Quant aux "pilules blanches" des techno-optimistes, je ne pense pas que l'IA évoluera positivement dans un environnement de laissez-faire. L'IA peut guérir des maladies, mais aussi être utilisée pour manipuler les gens si elle est optimisée pour l'engagement. Il est possible de développer une IA qui nous aide à cultiver l'empathie cognitive et la pleine conscience, mais cela nécessiterait une demande consciente du marché. Des mouvements, voire des religions, pourraient influencer cette demande. Le risque d'atrophie de la pensée induite par l'IA est réel. Si nous externalisons la pensée critique et la prise de décision, nos capacités pourraient diminuer. Cependant, l'IA peut aussi enrichir l'exploration intellectuelle, agissant comme un expert à interroger. Le rythme du progrès intellectuel global bénéficiera de l'IA. Mais la question est de savoir ce que cela signifiera d'être humain si moins de personnes se sentent à la pointe du progrès. Le sens que nous associons à l'effort et à la difficulté pourrait être érodé si l'IA facilite trop la vie. Je me sens comme un forgeron il y a un siècle, voyant l'écriture sur le mur. Mon travail d'écrivain, de générer du contenu original, pourrait devenir moins viable. Les validateurs, ceux qui garantissent l'exactitude et la qualité du contenu généré par l'IA, pourraient avoir un rôle temporaire. Pour les jeunes, les carrières dans les services humains, où la présence humaine est valorisée, pourraient être prometteuses. La musique live, les comédiens, les événements en direct pourraient connaître un regain d'intérêt. Concernant la religion, James Lewandowski, pionnier de la voiture autonome de Google, a tenté de fonder une religion basée sur l'IA, arguant qu'une attitude respectueuse envers l'IA garantirait un bon traitement en retour. Je ne crois pas que cela fonctionnera. L'IA pourrait-elle nous aider à percer des mystères spirituels comme la conscience ? C'est le mystère le plus tenace. L'IA ne peut pas nous aider à savoir si elle est consciente, mais elle peut traiter l'information de manière fonctionnellement analogue aux mécanismes de notre cerveau associés à la compréhension. Le débat sur la singularité est toujours pertinent. Le progrès technologique s'auto-alimente et s'accélère. Les agents de codage, par exemple, sont de plus en plus capables de créer de nouveaux modèles d'IA. Des études montrent que le temps