The Government Just Put a Border Around AI

Le récent bannissement par le gouvernement américain des exportations de modèles d'IA comme Fable 5 soulève des questions fondamentales sur l'accès, le contrôle et l'avenir de l'intelligence artificielle. Cette mesure, justifiée par des préoccupations de sécurité liées à d'éventuelles exploitations, a entraîné une réaction mitigée, allant de l'indignation à une prédiction de l'intervention gouvernementale. L'événement met en lumière une tension croissante entre le désir d'innovation et la nécessité perçue de contrôle, avec des implications profondes pour la liberté d'expression et l'accessibilité technologique. Le retrait de l'accès à Fable 5 par Anthropic, suite à l'interdiction d'exportation émise par le gouvernement américain, a suscité un débat intense. Initialement, le modèle avait déjà été "neutered" par Anthropic, limitant ses capacités dans certains domaines comme la cryptographie ou la bioscience, ce qui avait déjà provoqué une indignation générale. Cette nouvelle restriction gouvernementale ajoute une couche de complexité, impliquant que différentes entités, y compris les gouvernements, peuvent désormais dicter l'utilisation des modèles d'IA. Cette situation va à l'encontre du principe fondamental de liberté d'expression, en passant d'une régulation des actions à une régulation des pensées. L'intervention gouvernementale était en partie prévisible, étant donné le sentiment qu'il était nécessaire d'intervenir, même au détriment des principes de liberté d'expression. On s'attend à voir des développements étranges dans ce domaine. Anthropic, en tant que fournisseur, dicte désormais les conditions d'utilisation de ses modèles. De plus, leur politique de confidentialité a été modifiée pour Fable, stipulant que même en payant pour ne pas conserver les données, celles-ci seront conservées à des fins de sécurité. La justification officielle, émanant de personnalités comme David Sacks, met en avant le danger de ces modèles pour la découverte d'exploits, arguant que les failles n'ont pas été corrigées. L'imposition d'un contrôle à l'exportation est une réaction particulièrement étrange, qui alerte tous les gouvernements mondiaux sur la possibilité que non seulement l'IA, mais aussi n'importe quel service internet puisse être arrêté à tout moment. Si un gouvernement américain impose un contrôle à l'exportation sur un service essentiel, cela pourrait potentiellement paralyser des services mondiaux, car de nombreux services dépendent d'infrastructures américaines. La nature transnationale d'internet est remise en question, posant un précédent étrange pour la libre circulation de l'information. Malgré ces restrictions, la "boîte de Pandore" de l'IA est ouverte. L'existence de modèles puissants comme Fable et d'autres modèles open-source ou à poids ouverts, permet aux individus d'inspecter, de modifier et de trouver des vulnérabilités. Bien que Fable représente une avancée significative en termes de capacités, la tendance est que les autres acteurs rattrapent rapidement leur retard, nécessitant d'importants investissements en calcul pour l'apprentissage et les mises à jour. Il est probable que des modèles de capacités similaires à Fable seront disponibles via des sources open-source dans les 3 à 6 prochains mois. Des modèles comme JLM52, déjà à un niveau proche de GPT-4, démontrent cette progression rapide. Cette prolifération de l'intelligence artificielle à grande échelle rappelle la mentalité du monde de la cryptographie, où l'on suppose l'existence d'un adversaire intelligent cherchant à exploiter les systèmes. Cette approche doit être appliquée à la société dans son ensemble, en "dodoïsant" le gouvernement, c'est-à-dire en le rendant plus résilient face à des adversaires dotés d'intelligence et de patience. L'IA peut être une solution, comme le montre l'utilisation de l'IA par la FDA pour analyser des dépôts complexes. L'accent doit être mis sur le développement d'outils plus fondamentaux et mathématiquement prouvés pour assurer la sécurité et la robustesse. Le contrôle à l'exportation est perçu comme un mauvais précédent qui va stimuler le développement de l'IA en dehors des États-Unis, incitant d'autres pays à créer leurs propres laboratoires souverains. Ceci pourrait être bénéfique pour des projets de crypto comme ceux axés sur l'entraînement décentralisé de modèles d'IA. L'objectif est de construire une société qui assume que tout le monde est équipé de connaissances avancées et d'une intelligence supérieure, en se concentrant sur les actions plutôt que sur la pensée. La question de la stratégie gouvernementale derrière cette interdiction est complexe. Il est possible qu'il s'agisse d'une tentative d'accéder à ces outils avant le reste du monde, une sorte de "game theory" déficiente. Alternativement, cela pourrait être une réaction à la contradiction d'Anthropic, qui se positionne comme pro-sécurité tout en étant confrontée à un problème de sécurité non résolu. D'un point de vue stratégique pour les États-Unis en tant qu'exportateur technologique, cela représente un mauvais précédent. Cela crée de la méfiance envers les technologies américaines et pourrait pousser d'autres nations à développer leurs propres alternatives. Cette situation rappelle les tendances de censure croissante observées dans d'autres pays, où l'internet est de plus en plus contrôlé. L'arrêt d'un service comme Fable par le gouvernement américain s'inscrit dans ce spectre, créant un précédent pour des restrictions futures. La crainte est que cela puisse mener à une fragmentation de l'internet, avec des "internets nationaux" distincts. Bien que le Royaume-Uni ait déjà des formes de censure, comme le blocage de contenus sur YouTube, la peur est que les États-Unis suivent cette voie. Une préoccupation majeure est l'obligation pour les laboratoires d'IA de collecter des informations KYC (Know Your Customer). Si cette interdiction persiste, la vérification d'identité pourrait devenir une nécessité pour accéder aux modèles les plus puissants, afin de s'assurer que seuls les citoyens américains y ont accès. Cela pourrait être bénéfique pour l'IA décentralisée, mais représente une perte de confidentialité et une dépendance accrue envers les gouvernements. Les systèmes centralisés, même s'ils offrent une expérience utilisateur fluide, posent des risques de surveillance et de fuite de données. L'idée d'une "nationalisation" des laboratoires d'IA, comparable à la puissance des armes nucléaires, est évoquée. Cela soulève la question de la gestion de ces technologies par les gouvernements. L'alternative proposée est le développement de systèmes décentralisés, résilients aux restrictions gouvernementales. Ces systèmes permettent un accès privé et sécurisé aux modèles d'IA, sans nécessiter de KYC. L'IA décentralisée permettrait une utilisation plus éthique, où l'alignement se fait avec l'individu plutôt qu'avec une entreprise ou un gouvernement. La notion d'"alignement" dans l'IA est complexe. L'alignement général pour une société entière est pratiquement impossible, car les individus ne sont pas alignés entre eux. L'alignement véritable ne peut se faire qu'au niveau individuel, où un système est aligné sur les intérêts d'une seule personne. Les motivations économiques des entreprises d'IA peuvent compromettre cet alignement, en optimisant pour le profit plutôt que pour l'utilisateur. Le modèle de fondation d'OpenAI, évoluant vers une structure à but lucratif, illustre cette tendance. Dans ce contexte, les technologies web 3, comme celles développées par Near, offrent une alternative. En se concentrant sur la confidentialité, l'alignement avec l'utilisateur et la neutralité vérifiable, ces plateformes visent à redonner le contrôle aux individus. L'expérience utilisateur est un point crucial. Si les plateformes décentralisées sont souvent perçues comme plus complexes, des efforts sont faits pour simplifier l'accès, comme l'interface near.com qui permet une expérience comparable à celle de plateformes centralisées mais sans KYC. L'adoption des stablecoins dans les pays en développement a montré que des technologies décentralisées peuvent trouver leur place là où les systèmes traditionnels sont restrictifs ou coûteux. De manière similaire, l'IA décentralisée pourrait être adoptée par des pays ou des régions en dehors des centres technologiques traditionnels, en raison de son coût plus bas et de sa plus grande accessibilité. Bien que les modèles les plus avancés soient coûteux, l'agrégation de modèles open-source et l'optimisation des coûts peuvent offrir des performances proches des modèles de pointe à une fraction du prix. Le principal goulot d'étranglement actuel est le calcul. Les hyperscalers dominent le marché, limitant l'accès à de nouvelles ressources de calcul. Cependant, des expérimentations visent à exploiter des appareils grand public, comme les téléphones portables, pour agréger leur puissance de calcul. La confidentialité devient également un enjeu majeur pour les entreprises qui intègrent l'IA dans leurs opérations, afin d'éviter que leurs données propriétaires ne soient utilisées pour entraîner des modèles concurrents. La croissance de la "confidential TVL" (Total Value Locked) sur Near Protocol, via des "private shards", indique une demande croissante pour des transactions et des actifs privés. Cela implique que les utilisateurs verrouillent leurs actifs dans des environnements sécurisés et confidentiels, où les transactions ne sont pas publiquement visibles. Cette approche vise à offrir une véritable confidentialité, en permettant des transactions privées avec divers actifs, y compris des stablecoins et d'autres cryptomonnaies. L'objectif est de construire une pile technologique complète, de la blockchain à l'IA, offrant une "mode souveraine" où les données, les actifs et les choix appartiennent à l'utilisateur. Les entreprises qui ciblent les petites et moyennes entreprises, ainsi que les "prosumers" (consommateurs professionnels), sont celles qui peuvent adopter ces technologies plus rapidement. Les domaines comme la finance, le juridique et la médecine, où la confidentialité est primordiale, sont des cibles clés. En conclusion, l'évolution de l'IA est à un carrefour critique, marqué par des interventions gouvernementales et une concentration du pouvoir. Les solutions décentralisées, axées sur la confidentialité et le contrôle utilisateur, émergent comme une alternative essentielle pour garantir un accès équitable et sécurisé à ces technologies puissantes. L'adoption de ces solutions pourrait être accélérée par les restrictions imposées par les gouvernements, créant un écosystème plus résilient et centré sur l'utilisateur.