The Secret Supplier Feeding Frontier AI

Grass est une plateforme d'infrastructure de données qui alimente la frontière de l'IA, offrant des exaoctets de données aux laboratoires d'IA. Le réseau compte des millions de nœuds où les utilisateurs partagent leur bande passante en échange de récompenses. Andre, cofondateur et PDG de Wind Labs, l'équipe derrière Grass, explique son parcours. Après des études en génie physique, il a travaillé dans la finance avant de reprendre ses études en physique computationnelle. Pendant sa pandémie de doctorat en mathématiques appliquées, il a développé des projets parallèles, dont un robot d'arbitrage qui l'a initié au web scraping. C'est là qu'il a rencontré ses cofondateurs. Le besoin croissant d'infrastructure de données automatisée a explosé pendant la pandémie, lorsque les entreprises se sont tournées vers le numérique. De nombreux sites web ont commencé à bloquer les centres de données pour protéger leurs informations, tout en souhaitant rester accessibles aux consommateurs. Cette tendance, déjà visible sur les sites e-commerce, s'est étendue à l'ensemble d'Internet, alimentée par la puissance croissante des algorithmes d'apprentissage automatique. Grass a été fondé en réponse à ces défis, avec un principe fondamental de consentement. Les nœuds du réseau consentent à participer et sont récompensés, contrairement à d'autres systèmes qui s'introduisent discrètement via des VPN ou d'autres appareils, pratiques éthiquement discutables et commercialement intenables. Aujourd'hui, les agents d'IA rencontrent des difficultés d'accès à une grande partie d'Internet, car les sites web bloquent systématiquement les adresses IP des centres de données. Pour surmonter cet obstacle, il est nécessaire de router le trafic via des millions d'adresses IP résidentielles et d'utiliser une infrastructure de navigation personnalisée. Grass distingue les données d'entraînement et les données d'inférence. Les données d'entraînement sont des instantanés existants du web, tandis que les données d'inférence nécessitent des informations en temps réel. Les modèles d'IA, une fois entraînés, ont une connaissance limitée dans le temps et doivent être capables d'accéder aux informations du monde réel pour rester pertinents. Grass facilite cet accès pour les deux processus. L'infrastructure de Grass est massive, avec des milliers de serveurs de calcul et des pétaoctets de stockage. L'entreprise opère à l'échelle de l'exaoctet, fournissant des quantités considérables de données aux laboratoires d'IA. Cela inclut la puissance de calcul pour les requêtes web et les millions de nœuds Grass pour fournir une empreinte réseau. Le stockage est également crucial pour traiter et transformer des données brutes en formats utiles. Les laboratoires d'IA valorisent la quantité, la fraîcheur, l'échelle et la qualité des données. La demande varie selon que le laboratoire entraîne un modèle vidéo, de codage, ou vise une capacité d'IA générale. La vitesse est également une ressource précieuse dans ce domaine en évolution rapide. Grass aide à identifier le "signal" dans les données pour faciliter l'entraînement des modèles. Le domaine de la robotique, en particulier, nécessite d'énormes quantités de données vidéo et d'autres données pour entraîner les modèles à se comporter de manière autonome. Grass a indexé des milliards d'URL vidéo et travaille sur la collecte et le traitement de données spécifiques pour des applications robotiques. La particularité de ces données réside dans leur spécificité : contrairement aux données vidéo pour les modèles génératifs qui bénéficient d'une grande diversité, les données robotiques nécessitent une précision ciblée. Grass est une plateforme évolutive qui peut s'attaquer à divers problèmes de données web. L'infrastructure sous-jacente permet de cibler différents types de données et de les consommer de différentes manières. La propriété des données fournies aux laboratoires est un point important, et Grass se positionne comme un fournisseur de données qui ne crée pas de dépendance à long terme, car les données du web sont en constante évolution. Le nouveau produit, "Live Context Retrieval" (LCR), et son API de contenu permettent aux agents et aux modèles d'IA d'accéder à Internet en temps réel. Cette API, initialement développée en interne, rationalise la collecte de données web et réduit le besoin de réécrire des processus complexes. Elle permet d'obtenir le contenu d'une URL spécifiée, même en le visualisant depuis un pays particulier, et de le formater pour une utilisation optimale par les LLM. Les clients de LCR incluent des entreprises de divers secteurs comme le e-commerce, la publicité, et toute entreprise utilisant des agents sophistiqués, y compris la plupart des entreprises du Fortune 500. L'API de recherche, prochaine étape de la suite LCR, permettra aux modèles de trouver du contenu sans connaître les URL spécifiques, en s'appuyant sur la capacité de Grass à explorer le web et à extraire le contenu. La barrière à l'entrée pour la création de moteurs de recherche a diminué grâce aux outils open source et aux progrès de l'IA. Grass, en résolvant le défi de l'extraction de données sans être bloqué, se positionne comme un acteur clé dans ce domaine. La croissance du réseau Grass est essentielle, notamment pour les tâches sensibles à la latence comme l'inférence. L'ajout de nœuds résidentiels est crucial pour répondre à la demande de données provenant de zones géographiques spécifiques. La capacité de Grass à innover et à optimiser son infrastructure a permis d'accélérer le lancement de produits comme LCR. Travailler avec des laboratoires d'IA de pointe est passionnant, car cela permet de contribuer à l'évolution de cette technologie transformatrice. Les exigences des laboratoires sont intellectuellement stimulantes, mais la confidentialité des informations est primordiale en raison de la concurrence intense dans le domaine de l'IA. Les exigences en matière de données ont évolué au fil des cycles d'entraînement, certains laboratoires maintenant des exigences constantes tandis que d'autres adaptent leurs besoins en fonction de leurs allocations de ressources et de leurs orientations de recherche. Le volume global des besoins en données pour l'entraînement a augmenté. Les principaux obstacles rencontrés par Grass incluent parfois la méconnaissance des laboratoires quant à l'étendue des capacités de Grass et la structure cloisonnée des équipes d'approvisionnement en données au sein des grands laboratoires. La gestion de ces silos et la communication efficace prennent du temps. Les laboratoires recherchent à la fois le coût et la qualité des données, avec une préférence pour la qualité et une réticence à acheter des données de mauvaise qualité. L'optimisation des coûts est importante pour les laboratoires les plus avancés, qui évaluent la valeur économique des données par rapport à l'amélioration des modèles. Parmi les métriques quantitatives, le nombre de nœuds et le taux de réussite de l'API de contenu sont des sources de fierté. L'objectif est d'améliorer la latence, en se rapprochant de la limite physique de la vitesse de la lumière pour les requêtes web. Grass vise à devenir le média par lequel l'IA accède à l'information, que ce soit pour l'entraînement, la synthèse de nouvelles données ou l'apprentissage continu. Le marché des données pour l'IA est considéré comme entièrement accessible par Grass, qui peut se développer dans divers domaines, y compris les données synthétiques et les données du monde réel. La structure unique de Grass, avec la Grass Foundation comme entité sans propriétaire et Wind Labs comme prestataire de services, assure l'alignement des incitations et le contrôle de l'infrastructure. Avec des capitaux de croissance supplémentaires, Grass pourrait paralléliser ses initiatives de développement dans divers secteurs, accélérant ainsi la création de valeur et la découverte de nouvelles opportunités. En 2030, Grass aspire à être le moyen fondamental par lequel l'IA accède à l'information, que ce soit par des agents web ou des systèmes d'IA futurs. La vision est que Grass devienne l'infrastructure essentielle pour l'acquisition d'informations par l'IA, indépendamment de la manière dont cette information est collectée. Les personnes intéressées par Grass peuvent consulter le site web grass.io, le blog associé, et suivre Grass sur X pour les mises à jour. La suite LCR est disponible sur lcr.net.