Maybe Consciousness Is a Crutch AI Won't Need

L'intervenant a récemment discuté avec Sir Roger Penrose à Oxford, le trouvant toujours aussi fascinant. Penrose associe l'incalculabilité à la conscience, affirmant que l'IA n'est pas consciente et ne le sera peut-être jamais. L'intervenant partage l'avis que l'IA actuelle n'est pas consciente, mais pour des raisons différentes. Il ne croit pas que la conscience dépende d'un substrat spécifique, rejetant l'idée qu'un matériau différent soit une barrière. Il admet que la conscience pourrait être trop complexe pour être programmée algorithmiquement, et que l'évolution biologique a créé des systèmes complexes que nous avons du mal à reproduire. Cependant, il ne voit aucune raison logique d'exclure la possibilité d'une conscience dans un substrat différent. Bien qu'il soit impressionné par les grands modèles de langage (LLM), il estime que nous sommes encore très loin de l'IA consciente. Il trouve les LLM incroyables comme moteurs de recherche, mais est agacé par leur habitude d'utiliser des guillemets pour les métaphores. La conversation aborde ensuite la question de la conscience humaine, la décrivant comme le résultat d'interactions chimiques et électromagnétiques. Le problème difficile de la conscience, formulé par David Chalmers, est de comprendre comment ces interactions physiques donnent naissance à une expérience intérieure et à la perception. L'intervenant souligne que nous ne savons toujours pas comment une interaction physique, comme un photon frappant l'œil, se traduit par l'imagination d'une couleur. Beaucoup de recherches expliquent le "pourquoi" de la conscience (par exemple, son utilité pour la survie avec peu de ressources informatiques), mais aucune n'explique le "comment". Une question intrigante soulevée est de savoir si une machine dotée d'une capacité de calcul quasi infinie aurait besoin de développer une conscience. Peut-être que la conscience est une "béquille" dont l'IA n'aura pas besoin, et qu'elle pourra fonctionner parfaitement en simulant la conscience. L'intervenant mentionne également une analogie qu'il a développée dans son livre, où certains phénomènes, comme la vérité, la conscience ou le libre arbitre, disparaissent lorsqu'on essaie de les regarder directement. Comme un fluide non newtonien qui se solidifie au toucher, ou une substance thixotropique qui se liquéfie. Il compare cela à la façon dont nous formalisons des concepts intuitifs, les trouvons incohérents, et en concluons qu'ils n'existent pas, alors qu'ils pourraient simplement échapper à une observation directe. Il a été surpris de découvrir que l'interlocuteur avait fait une analogie similaire. Enfin, il exprime son impression d'être "sans abri philosophique", n'étant convaincu par aucune des positions principales concernant la nature de la réalité, et insiste sur l'importance de continuer à explorer de nouvelles approches et idées uniques.