Le PDG de Claude révèle le plan US pour l'IA (personne n'est prêt)

Dario Amodei, PDG d'Anthropic, explique la position de son entreprise face aux tensions avec le gouvernement américain concernant l'utilisation de l'IA. Anthropic a été proactif dans la collaboration avec le gouvernement et l'armée, déployant des modèles pour la cybersécurité et le renseignement, afin de défendre le pays contre des adversaires comme la Chine ou la Russie. Cependant, Anthropic refuse deux cas d'usage : la surveillance domestique de masse et les armes intégralement autonomes. L'entreprise estime que l'IA permet des pratiques de surveillance inédites, dépassant le cadre légal actuel, et que les armes autonomes sans intervention humaine sont imprévisibles et posent des problèmes de responsabilité fondamentaux. Malgré un ultimatum du Pentagone, Anthropic a maintenu ses restrictions, proposant de continuer à fournir ses technologies pour les usages acceptés afin d'éviter une interruption de service potentiellement dévastatrice pour les opérations militaires. Amodei insiste sur la nécessité d'un débat démocratique et d'une législation du Congrès pour encadrer ces technologies, car l'IA évolue plus vite que le cadre légal.