L’IA d’aujourd’hui n’est pas intelligente

Les grands modèles de langage (LLM) ont fait des progrès fulgurants, notamment dans des domaines comme la finance et la comptabilité, là où ils étaient auparavant médiocres. Ces améliorations proviennent de l'adaptation des LLM aux besoins des utilisateurs, comme la création de business plans, par la collecte de données et l'affinage du système. Cependant, les LLM actuels sont rarement utilisés seuls. Ils sont souvent augmentés d'outils externes pour pallier leurs faiblesses. Par exemple, pour des calculs arithmétiques ou pour retrouver des données précises comme le PIB, les LLM peuvent interroger une calculatrice ou une base de données. De même, pour l'extrapolation de données, ils peuvent faire appel à des systèmes de régression. L'industrialisation des LLM implique donc l'intégration de nombreux outils spécialisés, y compris des sous-LLM pour des tâches spécifiques, et un orchestrateur qui sélectionne le meilleur "expert" pour chaque requête. L'optimisation est également cruciale pour réduire les coûts d'inférence. Le cerveau humain sert d'analogie pour comprendre l'intelligence. Il se compose de zones dédiées à la compréhension du langage (aire de Wernicke), à la production de la parole (aire de Broca), et à la mémoire associative et factuelle (hippocampe). L'intelligence humaine, incarnée par le cortex préfrontal, intègre perception, action et pensée. La motivation et la mémoire sont aussi des composantes essentielles. L'évolution a doté le cerveau de zones spécifiques pour le langage, récemment apparues. L'inspiration biologique est une source pour la recherche en IA, bien que les détails d'implémentation diffèrent. Les réseaux neuronaux convolutifs, inspirés du cortex visuel des mammifères, sont très utilisés pour la reconnaissance d'images, comme dans les voitures autonomes ou l'analyse médicale. Les principes sous-jacents de l'aérodynamique, qui régissent le vol des oiseaux et des avions, illustrent cette idée : la compréhension des principes permet des applications diverses. La création d'une intelligence artificielle générale (AGI), potentiellement supérieure à l'intelligence humaine collective, est vue comme inévitable. Cependant, cela ne sera pas imminent et ne sera pas uniquement basé sur les LLM actuels. L'idée d'atteindre une intelligence de niveau humain simplement en augmentant la taille des LLM et la quantité de données est jugée erronée par de nombreux chercheurs. L'industrie et les investisseurs commencent à réaliser les limites des LLM, nécessitant des innovations majeures pour les dépasser. Cela a permis à des entreprises comme Amilabs de lever des fonds importants.