AI Won’t End the World—But It Will Do This

Il est indéniable que des risques existent avec ces technologies et qu'elles peuvent être mal utilisées. Cependant, il ne faut pas craindre des scénarios de science-fiction où des agents autonomes sèmeraient le chaos dans l'économie. La situation actuelle est unique car les modèles d'IA ont atteint un seuil de capacité les rendant exceptionnellement performants pour les cyberattaques. Cependant, il y a toujours eu un équilibre entre l'amélioration des capacités des modèles et les infrastructures mises en place pour les contrôler. Il est crucial de distinguer les peurs irrationnelles de science-fiction des problèmes concrets et résolubles rencontrés par OpenAI. L'invention du microscope est une bonne métaphore : il révèle des fissures invisibles à l'œil nu, permettant aux attaquants d'exploiter ces failles, tout comme le vin peut tacher un comptoir en granit non scellé. Heureusement, tout comme on peut sceller un comptoir en granit, les systèmes de sécurité peuvent être renforcés. Les mêmes outils qui identifient les failles peuvent être utilisés par les défenseurs pour les trouver et les corriger avant les attaquants, ou pour surveiller les menaces. Les risques sont donc compréhensibles, gérables et éloignés des scénarios apocalyptiques dépeints par les gros titres.