Le Manifeste de Mark Zuckerberg : Quels sont ses véritables intentions ?

Marc Zuckerberg a récemment publié un manifeste de 6500 mots sur l'intelligence artificielle, intitulé "The Future is for Everyone", promettant une super intelligence personnelle pour chacun, en opposition à une technologie verrouillée par quelques laboratoires. Ce texte soulève une question fondamentale pour notre époque : faut-il centraliser ou décentraliser l'intelligence artificielle ? Accompagné de Damien Douani et Valeran Moulberto, nous avons décortiqué ce manifeste dans le cadre de la huitième saison de Silicon Carnet, désormais quotidienne. L'émission a également abordé la sortie de nouveaux modèles de Meta et l'annonce d'un fonds d'un milliard de dollars pour les communautés autour des centres de données, un sujet qui fera l'objet d'une future émission compte tenu du backlash mondial contre ces infrastructures. Le manifeste de Zuckerberg repose sur trois piliers : l'individu comme moteur de la prospérité, l'invention plutôt que l'automatisation comme but de la super intelligence, et un équilibre des pouvoirs comme condition de sécurité. Le message central est qu'il n'existe pas de super intelligence unique et bienveillante, et qu'il est préférable de la distribuer à tous plutôt que de la concentrer entre les mains de quelques laboratoires. Zuckerberg vise clairement des acteurs comme OpenAI et Anthropic, qui forment un duopole ou oligopole aux États-Unis. Ce texte peut être perçu comme un retour de Meta dans la course de l'IA, après avoir été quelque peu éclipsé. Damien Douani souligne que Zuckerberg n'en est pas à sa première vision, rappelant l'échec du métavers. Il note que la notion d'open weight (modèles ouverts avec certaines limitations) pour les modèles de Meta, bien que promue par Yann LeCun, n'était pas initialement l'idée de Zuckerberg. Cependant, cela lui sert aujourd'hui de levier face à la politique chinoise de diffusion de modèles ouverts, tandis que les acteurs américains comme OpenAI et Anthropic construisent des "walled gardens". Damien met également en lumière que Zuckerberg parle de "super intelligence" sans en définir clairement le concept ni en avoir un échantillon concret. Le projet interne de Meta, OT, visant à remplacer des employés par des agents intelligents, a été un échec avec jusqu'à 40% d'erreurs et un rejet interne. Le manifeste est donc une vision qui permet à Meta de se repositionner et de trouver une nouvelle place. Valeran Moulberto, en tant que défenseur de la décentralisation, voit d'un bon œil cette vision. Il perçoit le manifeste comme une réponse directe à la grogne croissante concernant la concentration du pouvoir des hyperscalers et des grandes entreprises technologiques. Beaucoup craignent une captation de la valeur par quelques géants, un scénario dystopique de science-fiction. Zuckerberg, selon Valeran, essaie de faire du "virtue signaling" en se présentant comme le "gentil", à l'inverse d'un Elon Musk qui assume parfois le rôle du "méchant". Valeran ajoute que les Chinois tentent de concurrencer les hyperscalers américains en réduisant le coût de leurs modèles, incitant à leur adoption massive en dehors des États-Unis. Cette stratégie, que Valeran qualifie de "dumping IA", pourrait bénéficier à Zuckerberg, dont le modèle économique repose sur la publicité. Des modèles gratuits pourraient générer un grand sens pour son entreprise. Enfin, le manifeste met la pression sur les hyperscalers qui sont sous tension de financement et de revenus, car leurs modèles fermés ont besoin de générer des revenus pour survivre. La stratégie chinoise est doublement intelligente : non seulement ils distribuent des modèles IA efficaces à bas prix, mais ces modèles sont souvent hébergés sur des hyperscalers américains, consommant ainsi leur puissance de calcul et leur énergie. C'est une manière très astucieuse de faire tourner la machine américaine à leur avantage. Le manifeste de Zuckerberg pose la question cruciale : l'IA sera-t-elle centralisée et réservée à quelques institutions, ou sera-t-elle un outil donnant du pouvoir à chacun ? Sa réponse est une super intelligence individuelle et personnelle, un agent travaillant pour chacun 24h/24, accessible depuis n'importe quel appareil, notamment les lunettes connectées de Meta. Cette vision d'un Jarvis personnel au service de notre vie est-elle utopique ou proche de la réalité ? Damien Douani souligne que Zuckerberg insiste sur le fait que cette IA doit être au service de la création, de "l'empowerment" des gens, les aidant à faire des choses mieux, plutôt que de les transformer en individus passifs. C'est ce qu'il appelle le "capitalisme heureux", une vision optimiste malgré les ajustements nécessaires. Cependant, la vision reste nébuleuse, sans explication claire de la distribution des modèles, bien que l'on puisse anticiper qu'ils se développeront sur les plateformes de Meta. Zuckerberg aborde également la "distillation", un processus par lequel les modèles chinois ont appris des modèles américains. Il défend le principe selon lequel on peut apprendre de tout ce qu'on observe. Cependant, Damien et Valeran soulignent l'hypocrisie de cette position : Meta elle-même a attaqué en justice des startups, comme Phantebuster, pour avoir "scrappé" des données de Facebook, alors qu'elle prône la liberté d'apprendre de toutes les données. C'est une politique de "deux poids, deux mesures", où l'espionnage industriel est acceptable si Meta le pratique, mais pas si d'autres le font sur ses plateformes. Valeran critique la tendance des magnats de la tech à se présenter comme des penseurs et philosophes du nouveau monde, faisant du "virtue signaling" pour rassurer le public. Il compare cela au manifeste d'Alex Karp de Palantir, qu'il trouve plus honnête dans sa doctrine politique, même s'il le juge guerrier. Zuckerberg, en revanche, est perçu comme "sirupeux" et manquant de colonne vertébrale, s'adaptant aux tendances. Valeran met en garde contre l'idée que l'IA résoudra tous les problèmes, oubliant les métiers manuels, sociaux et de service. Il compare la révolution de l'IA à celle d'Internet : l'IA est présentée par ses créateurs comme un moyen de libération et de performance, tandis qu'Internet a été saisi par les communautés elles-mêmes pour devenir plus libres. L'IA est davantage une recommandation de ce qu'elle sera, venant de ceux qui la créent, ce qui crée un discours un peu étrange, comme "vous ne posséderez rien et vous serez heureux". Damien établit un parallèle entre le modèle libertaire d'Internet (partage et communauté) et le modèle libertarien de l'IA (indépendance et individualité, sans État, avec propriété privée). Bien que les deux visent l'autonomisation des individus, les chemins sont différents. Le manque de crédibilité de Zuckerberg sur ce sujet est souligné, étant donné qu'il a enfermé les utilisateurs dans des bulles de confirmation via les algorithmes des réseaux sociaux. Meta a récemment transigé pour 17 milliards de dollars pour éviter un procès, un montant astronomique qui révèle l'ampleur des enjeux. Valeran reconnaît que les réseaux sociaux ont aussi eu des aspects libérateurs, mais le problème est survenu lorsque les algorithmes sont entrés en jeu pour monétiser et tordre l'outil. La question est de savoir si les IA seront également tordues ou orientées. Le débat actuel dans la Silicon Valley oppose deux écoles : celle qui estime l'IA trop dangereuse pour être distribuée et doit être sous contrôle de quelques laboratoires et de l'État, et celle, défendue par Zuckerberg, qui estime l'IA trop dangereuse pour être centralisée. Cette dualité est intéressante. Bien que le messager ne soit pas le plus crédible, la question de la décentralisation est pertinente. La théorie de la guerre froide, où la distribution des armes assure un équilibre, est utilisée comme parallèle. Si l'IA est une arme, sa décentralisation pourrait créer un équilibre où personne n'a intérêt à abuser de son pouvoir. Zuckerberg déclare : "Espérer qu'un pouvoir absolu surviendra avec bienveillance aux besoins de l'humanité s'il est suffisamment éclairé n'a jamais mené à des résultats sûrs ou positifs." Il vise clairement Dario Amodei d'Anthropic, qui prône une IA sûre mais centralisée sous son contrôle et celui du gouvernement. Paradoxalement, les Chinois distribuent leurs modèles en open weight, mais l'IA est ultra centralisée sur leur propre sol. La peur d'un côté est qu'un modèle open source puisse créer une cyberattaque d'ampleur ; la peur de l'autre (celle de Zuckerberg) est que les hyperscalers s'entendent avec un gouvernement pour influencer et censurer massivement. Valeran préfère une puissance distribuée, craignant l'autoritarisme. Le texte de Bill Gates, quant à lui, est presque apocalyptique, décrivant la transition vers l'IA comme l'une des périodes les plus turbulentes de l'histoire. Il estime que les gouvernements ne sont pas prêts, que l'IA détruira des emplois (notamment chez les juniors), et propose même des "métiers réservés aux humains" comme des réserves naturelles. Il met en garde contre l'armement des criminels par l'IA et les "compagnons IA" qui menacent le développement des adolescents, faisant écho aux problèmes de Réplica et aux condamnations de Meta. Valeran réaffirme sa peur d'une IA sous le contrôle gouvernemental, préférant une distribution du pouvoir. Il établit un parallèle entre l'appel à un moratoire sur l'IA et l'inaction face au réchauffement climatique : on débat, mais rien ne change, et le marché avance jusqu'à la catastrophe. La "théorie des jeux" entre la Chine et les États-Unis, ainsi qu'entre les acteurs de la big tech, empêche toute régulation efficace. Elon Musk a créé OpenAI par peur que Google ne détienne seul une IA supérieure. Bien qu'il n'y ait pas de réponse simple, la proposition de Zuckerberg d'une neutralisation commune et réciproque, où tout le monde est autour de la table, n'est pas insensée, rappelant le Conseil de sécurité de l'ONU. Sam Altman, dans une interview à l'Economist, a suggéré un moratoire d'une semaine ou deux avant les lancements de modèles, avec un partage d'informations régulier entre les acteurs et les États. Cependant, tout cela reste américano-centré. En conclusion, le manifeste de Zuckerberg, bien que potentiellement motivé par un besoin de revenir dans la course technologique et politique, pose une question pertinente sur la décentralisation de l'IA. Le manque de crédibilité des patrons de la tech, combiné à l'incompréhension des politiques et à l'idéologisation du public, crée un "trou noir" dans le débat. Les "capitaines d'industrie" se transforment en penseurs, tandis que les intellectuels échouent à saisir la complexité du sujet, le balayant comme une catastrophe ou un phénomène insignifiant. Cette "faillite des intellectuels" est préoccupante, car elle conduit à une radicalité stérile plutôt qu'à une humilité nécessaire face à l'inconnu. Comme pour le réchauffement climatique, on risque d'avancer sans mesures adéquates jusqu'à un clash majeur.