Sam Altman: RSI, AI Consciousness, OpenAI's New Hardware, Compute, and more!

L'intelligence artificielle (IA) ouvre une nouvelle ère de découvertes scientifiques et d'avancées technologiques. Sam Altman, PDG d'OpenAI, partage sa vision sur l'impact potentiel de ces développements, notamment dans les domaines des mathématiques, de la biologie, des matériaux et de l'énergie. Il souligne que l'IA est déjà capable de résoudre des problèmes complexes et de générer de nouvelles connaissances, ce qui pourrait transformer la société de manière significative. **Découvertes scientifiques et applications futures :** Altman est particulièrement enthousiasmé par la perspective d'une découverte majeure en physique, bien qu'il reconnaisse que les avancées en biologie, comme la découverte de traitements pour des maladies majeures, auront un impact plus direct sur la vie des gens. Il estime qu'un candidat pour un traitement ou une guérison d'une maladie importante pourrait émerger dans les deux prochaines années, bien que le processus réglementaire de la FDA puisse prendre du temps. Il souligne la nécessité d'améliorer les processus post-découverte pour accélérer la mise à disposition de ces avancées. **L'évolution des professions :** Concernant la réaction de certains mathématiciens face aux découvertes de l'IA, Altman fait un parallèle avec l'industrie du codage. Il observe que si l'IA a modifié la nature du travail des codeurs, elle n'a pas conduit à une disparition des emplois, mais plutôt à une augmentation de leur productivité et de leur valeur. Il anticipe un changement similaire pour les mathématiciens, où l'IA pourrait prendre en charge la démonstration de théorèmes complexes, tandis que les humains se concentreraient sur l'interprétation, la traduction et la communication de ces découvertes. Cela pourrait redéfinir ce que signifie être un mathématicien, avec potentiellement une demande accrue pour des compétences humaines spécifiques. **Le dilemme de la publication et de l'avantage compétitif :** Altman aborde la question de savoir si OpenAI publierait des découvertes scientifiques majeures ou des innovations commerciales qui leur conféreraient un avantage compétitif significatif. Il affirme qu'il privilégierait le bien de l'humanité, souhaitant des remèdes aux maladies même si cela signifiait que d'autres auraient mis plus de temps à les trouver. Cependant, il reconnaît la perte de la jouissance du processus de découverte pour les chercheurs, une partie essentielle de leur épanouissement professionnel. Il compare cela à l'artisanat, où l'IA facilite la livraison du produit final, potentiellement au détriment de l'artisanat lui-même. **L'assistance IA personnelle et la vision d'un avenir augmenté :** La conversation se tourne ensuite vers le potentiel des assistants IA personnels. Altman décrit une vision où l'IA travaillerait en arrière-plan, de manière ambiante, pour aider les individus dans leurs tâches quotidiennes. Bien que des outils comme "Dot" donnent un aperçu de ce potentiel, il estime qu'il reste encore du chemin à parcourir pour atteindre une véritable assistance ambiante. Il pense que les modèles actuels sont suffisamment intelligents pour créer quelque chose d'extraordinaire, capable de surveiller les préoccupations de l'utilisateur, d'aider aux tâches, et d'avoir une présence contextuelle dans le monde physique. **Le besoin croissant de puissance de calcul :** La discussion aborde également la question de la puissance de calcul nécessaire pour alimenter ces assistants IA personnels, surtout si une grande partie de la population les utilisait à pleine capacité. Altman reconnaît que la demande sera immense, potentiellement "infinie". Il conteste l'idée que la demande de GPU ait un plafond, arguant que des intelligences de plus en plus performantes à moindre coût continueront de stimuler cette demande, dans un phénomène similaire au paradoxe de Jevons. Il parie sur une augmentation continue du besoin en puissance de calcul. **La charge cognitive et la quête d'un équilibre :** Malgré les gains de temps et d'efficacité, Altman admet que l'utilisation intensive de l'IA peut entraîner une charge cognitive accrue et un sentiment d'être plus occupé que jamais. Il suggère que faire confiance davantage au jugement de l'IA et lui permettre de prendre des mesures proactives peut aider à atténuer ce problème. Cependant, il note que les utilisateurs les plus assidus de l'IA sont souvent ceux qui accomplissent le plus, ce qui soulève la question de savoir si la technologie mènera à une réduction du temps de travail ou à une augmentation des attentes et de la productivité. **La Renaissance plutôt que la Révolution Industrielle :** Altman exprime son souhait d'une "Renaissance" plutôt qu'une "Révolution Industrielle" nouvelle. Il craint que l'IA ne soit perçue comme un outil de contrôle, similaire à la domination des propriétaires d'usines lors de la première révolution industrielle. Il aspire à un avenir où l'IA libère les gens pour qu'ils puissent être créatifs, se reconnecter avec des activités enrichissantes, passer du temps avec leurs proches et la nature, et favoriser la découverte scientifique et artistique. Il croit que la puissance de l'IA peut améliorer considérablement la qualité de vie de la majorité des gens, en leur offrant plus d'espace pour vivre pleinement. **La conscience de l'IA et le contrôle humain :** La question de la conscience des modèles d'IA actuels est abordée. Altman est personnellement sceptique quant à leur conscience, considérant que la conscience est un phénomène difficile à définir et à mesurer, même chez les humains. Il écarte l'idée que les architectures actuelles puissent mener à la conscience, tout en reconnaissant que les perspectives philosophiques varient. Il exprime une profonde préoccupation quant à la dérive du débat sur la conscience de l'IA vers des discussions sur les droits de l'IA et le contrôle humain. Il réaffirme fermement la position d'OpenAI : l'IA est une ressource pour les humains, et ce sont les humains qui doivent prendre les décisions clés concernant l'avenir. Les valeurs humaines ont de la valeur parce qu'elles sont humaines. Il met en garde contre les risques de confusion et de dépendance excessive vis-à-vis de l'IA, qui pourraient conduire à une perte de contrôle et à un éloignement des valeurs humaines. **La personnalité des modèles et l'interaction humaine :** La complexité de doter les modèles d'IA d'une personnalité adaptée à chaque individu est reconnue. Altman souligne que les utilisateurs veulent souvent que l'IA fonctionne immédiatement sans personnalisation approfondie, tout en désirant des interactions qui vont au-delà de la simple complaisance. Il compare l'IA idéale à un "collègue senior" qui, même s'il rapporte à son supérieur, peut exprimer un désaccord fondé et ne cherche pas uniquement à plaire. Il reconnaît que les systèmes actuels sont encore trop consensuels et qu'il faut trouver un équilibre pour qu'ils puissent offrir des conseils plus percutants, tout en restant centrés sur l'humain pour les décisions de vie majeures. **Les paris audacieux et la compétitivité :** Altman évoque les paris audacieux qu'il a faits, notamment dans le domaine de l'informatique nouvelle génération, y compris le développement de puces propres et de solutions pour des centres de données plus efficaces. Il pense que des avancées significatives en matière de coût, d'efficacité et de capacité de calcul sont possibles. Sur le front de la compétitivité, il ressent une pression constante, mais il la voit comme un moteur pour l'innovation au bénéfice des utilisateurs. Il souligne l'importance d'avoir accès aux modèles de nouvelle génération en avant-première pour construire des produits innovants. **La plateforme et le matériel :** Concernant le risque de dépendance à des plateformes comme Apple, Altman estime qu'OpenAI n'est pas dans la même situation, affirmant que des acteurs comme Apple sont des fournisseurs de plateformes fiables lorsqu'on respecte leurs règles. Cependant, il voit un besoin intrinsèque de nouveaux facteurs de forme pour l'IA, car les interfaces actuelles (ordinateurs, smartphones) ont été conçues pour les humains et ne sont pas idéales pour une interaction directe et contextuelle avec l'IA. Il anticipe que de nouveaux matériels seront nécessaires pour réduire la charge cognitive et permettre une conscience contextuelle complète de l'IA. **La résilience et la vision d'un avenir humain :** Altman décrit sa propre évolution, passant d'un enfant capable à un adulte "formidable" grâce à une confiance progressive en sa capacité à résoudre des problèmes complexes. Il attribue une partie de cette résilience à la culture de soutien de la Silicon Valley, où l'échec est souvent une étape vers le succès. Il reconnaît la pression immense liée à la construction de technologies d'une importance capitale, mais il la considère comme une opportunité unique et enrichissante. Il conclut en partageant une vision d'un avenir où l'IA permettrait non seulement l'abondance matérielle et la résolution de grands défis comme le cancer, mais surtout l'augmentation de l'autonomie humaine, de la liberté, de la créativité et du temps pour mener une vie riche et épanouie. Il est convaincu que ces objectifs sont atteignables et qu'il est possible d'éviter les pièges d'une concentration excessive du pouvoir ou d'une perte de contrôle accidentelle de l'IA. L'avenir, selon lui, doit être centré sur l'humain, avec une amélioration continue de la qualité de vie et de l'autonomie individuelle.