Le PDG d'Anthropic prédit un véritable "Bain de sang"

Nous atteignons un point de bascule, marquant le début d'un changement de civilisation majeur, peut-être le plus grand bouleversement socio-économique jamais vu. Dario Amodei, PDG d'Anthropic, l'entreprise derrière Claude, a publié un texte analysant le futur de l'IA, potentiellement le document le plus important sur l'IA de cette année. Ce texte nous aidera à comprendre pourquoi Amodei demande une régulation stricte, pourquoi son IA écrit désormais la majorité de son propre code, et pourquoi cette période est qualifiée de "bain de sang". Dario Amodei, ancien d'OpenAI, a fondé Anthropic après avoir compris que plus on donne de puissance de calcul aux systèmes d'IA, plus ils deviennent intelligents de manière prévisible. Le texte s'ouvre sur une métaphore du Seigneur des Anneaux, comparant nos institutions à un arbre géant sage mais lent, tandis que l'IA avance à une vitesse sans précédent. Son diagnostic est clair : en quatre ans, les modèles d'IA sont passés d'une ligne de code incohérente à la majorité du code écrit dans les grands laboratoires d'IA. Si ce rythme se maintient encore un ou deux ans, nous atteindrons une IA puissante, ou AGI, qu'il décrit comme un "pays de génies dans un centre de données". Des millions d'esprits de haut niveau, disponibles à la demande, qui ne dorment ni ne démissionnent jamais. Ce développement se produit alors que notre quotidien reste inchangé, créant un piège décrit par Sam Altman : la bascule se fera sans bruit. Amodei va plus loin, affirmant que les risques sont déjà là, au présent. Pendant trois ans, la position officielle d'Anthropic était la transparence, mais cette ère est révolue. Le texte réclame désormais une régulation contraignante, calquée sur l'aviation civile. Tous les modèles d'IA dépassant un certain seuil de puissance devraient subir des tests obligatoires menés par des organismes indépendants, ciblant quatre risques précis : la cybersécurité, les armes biologiques, la perte de contrôle et la recherche automatisée qui accélère les trois premiers. C'est une situation inédite dans l'histoire de la tech où un constructeur demande l'installation de radars sur sa propre route. Une question demeure : qu'est-ce qui a provoqué un tel revirement ? Le texte révèle que ce printemps, Anthropic a testé un nouveau modèle d'IA, Mythos, si doué pour analyser le code qu'il a découvert des milliers de failles de sécurité inconnues dans les systèmes quotidiens. Amodei a pris la décision rare de ne pas rendre ce modèle public, le réservant à un cercle restreint de partenaires. De plus, un rapport d'Anthropic du 4 juin, "Quand l'IA se construit elle-même", a révélé que Claude écrit plus de 80 % du code intégré dans les systèmes de production d'Anthropic, et que leurs ingénieurs livrent huit fois plus de code par trimestre qu'il y a un an. Malgré ces développements, Amodei ne demande pas d'arrêter l'IA. Son texte est l'un des plus optimistes, décrivant une accélération massive de la science, de la médecine et de l'énergie, permettant à des individus de créer des entreprises valorisées à des milliards. Le terme "bain de sang" vient d'une interview où Amodei l'avait utilisé pour décrire le remplacement du travail intellectuel humain par l'IA, plus rapidement et plus largement que toute technologie précédente, entraînant un déplacement d'emplois durable. Pour lui, le véritable défi ne sera pas de créer plus de richesse, mais de la partager efficacement face à cette nouvelle réalité. Anthropic a alloué 350 millions de dollars : 200 millions pour un fonds de recherche sur l'impact économique de l'IA et 150 millions pour placer des jeunes en début de carrière dans des associations. Le texte évoque également l'idée d'un revenu de base universel, financé par des taxes sur la production d'IA, une idée de plus en plus soutenue par des figures comme Elon Musk. La seconde partie du texte aborde le pouvoir. La nation qui possédera l'AGI disposera de millions de cerveaux pour la recherche militaire, les armes et le renseignement. Amodei estime que trois ans de retard dans l'IA condamnent un pays. Le 9 juin, Anthropic a lancé ses nouveaux modèles : Mythos 5, la version brute réservée, et Fable 5, la version grand public avec des garde-fous stricts. Le 10 juin, Amodei a publié son texte. Le 12 juin, le secrétaire au commerce américain a ordonné la suspension de l'accès à Fable 5 et Mythos 5 pour tout ressortissant étranger, y compris les employés d'Anthropic, au nom de la sécurité nationale. C'est la première fois que le gouvernement américain applique des contrôles à l'export non pas sur des puces, mais directement sur des modèles d'IA. Pendant près de trois semaines, Fable 5 a disparu. Cette interdiction, bien que brutale, valide le texte d'Amodei. Elle montre que la puissance publique agit, mais frappe à l'aveugle. Fin juin, la Maison Blanche a demandé à OpenAI de limiter la sortie de GPT 5.6, jugé du même niveau que Mythos, à une vingtaine de partenaires approuvés par le gouvernement. Le 30 juin, les contrôles ont été levés, et Fable 5 est revenu en ligne, mais il n'est plus le même. Mythos reste réservé aux agences défendant des infrastructures critiques. Le Financial Times a révélé qu'OpenAI discute de céder 5 % de son capital au gouvernement américain, Sam Altman proposant que chaque grand laboratoire fasse de même pour alimenter un fonds public inspiré du modèle pétrolier de