From $100M to $300M ARR in 15 months: inside Glean’s AI engine - Arvind Jain [Glean]

L'open source est capable de réaliser un pourcentage de tout ce que vous voulez faire avec l'IA. Vous devez recommencer Glean depuis le début. Quelle est la chose que vous feriez différemment ? Nous aurions sans doute…Mais en réalité, c'est une technologie assez basique à mon avis actuellement. Ça demande trop de travail, ça peut coûter, vous savez, des centaines de milliers de dollars chaque jour. Ce n'est pas un remplacement pour les humains ou pour leur rôle, vous savez, dans ce monde. Qu'ils possèdent des milliards, je m'entretiens avec Arvind Jain, fondateur et PDG de Glean. Avant Glean, Arvind a cofondé Rubrik, devenue une société publique pesant plusieurs milliards de dollars. Puis il a recommencé à zéro. Aujourd'hui, Glean a dépassé les 300 millions de revenus annuels récurrents en un temps record et a été récemment valorisée à 7,2 milliards. Arvind, bienvenue dans l'émission. Merci de m'avoir invité. Ravi d'être ici. Je me demande vraiment, vous avez lancé une entreprise qui est entrée en bourse, je crois qu'elle était valorisée à des dizaines de milliards , et vous avez quand même décidé, au lieu de prendre votre retraite et de vous détendre sur la plage, de repartir et de lancer une nouvelle aventure. Pourquoi ? Eh bien, je pense qu'en partie, c'est parce que j'aime ça. C'est ça, la motivation principale. Monter une startup à partir de zéro, créer un excellent produit que vos amis, votre famille, tout le monde utilise. Vous savez, c'est un sentiment tellement agréable de faire ça. C'est donc toujours le facteur de motivation pour moi. J'aime travailler, j'aime créer des produits. Mais la motivation pour Glean m'est en fait venue pendant que je travaillais chez Rubrik, l'entreprise que nous avons lancée début 2013. Et donc, c'était un problème auquel nous étions confrontés chez Rubrik. À mesure que nous grandissions, nos indicateurs de productivité ont commencé à baisser et les gens se plaignaient de ce problème spécifique que Glean s'est donné pour mission de résoudre : « Tout le monde disait qu'il était très difficile pour moi de travailler dans l'entreprise parce qu'il y a tellement d'informations et de données éparpillées dans tant d'endroits différents, que je ne trouve rien. » Je ne trouve pas les informations dont j'ai besoin pour faire mon travail. Je ne sais pas non plus identifier les personnes qui peuvent m'aider, vous savez, à accomplir ce travail. C'était donc un problème dont notre équipe se plaignait beaucoup et, comme vous l'avez mentionné, mon expérience , vous savez, comme vous le disiez, j'ai été ingénieur en recherche pendant la majeure partie de ma carrière d'ingénieur. Et donc, quand les gens disaient : "Hé, ils n'arrivent pas à trouver des choses dans l'entreprise." J'ai dit : " Pourquoi pas ? Genre, vous savez, pourquoi n'avons-nous pas un outil comme Google au sein de notre entreprise ?" Et il s'est avéré qu'il n'existait aucun produit sur le marché pour ça. Et donc, c'est ce qui a conduit à la création de Glean. Super intéressant. Et je pense que, dès qu'on pense à la recherche maintenant et qu'on la lie à l'IA, l'un des gros problèmes que l'on voit, ce sont les modèles qui hallucinent. Comment faites-vous exactement pour résoudre ce problème avec Glean ? Oui, donc je pense que pour donner un rapide contexte, Glean est un collègue , un collègue d'entreprise. Vous pouvez donc l'utiliser au sein de votre entreprise généralement. L'entreprise déploie Glean pour tous ses employés, vous savez, tous en même temps. Et quand ils déploient Glean dans l'entreprise, ils connectent Glean à tous leurs systèmes d'entreprise. Et ainsi, Glean est désormais capable de comprendre votre activité, de voir toutes les données et toutes les connaissances qui vivent dans votre entreprise. Il est aussi capable de comprendre qui sont les différentes personnes, vos employés, vos clients. Il a donc ce contexte sur la façon dont votre entreprise fonctionne réellement. Et une fois qu'on l'a, vous proposez notre collègue à chacun de vos employés. Et ce collègue ressemblera à n'importe quel autre collègue IA que vous voyez aujourd'hui . Que ce soit Claude, ChatGPT ou Gemini , Glean a également la même apparence . Mais la différence principale est que Glean a, premièrement, accès à tous les excellents modèles d'IA existants, modèles fermés ou open-source. Donc, cela ressemble à un super-ensemble de ChatGPT, Claude ou Gemini, tous combinés en un seul. Mais plus important encore, parce qu'il est connecté si profondément et largement à tous vos systèmes d'entreprise, il sait comment votre société fonctionne . Il possède ce contexte. Il peut donc apporter le bon contexte, les bons matériaux bruts à l'IA. Ainsi, quand vous demandez à Glean de travailler, il est capable d'utiliser ce contexte et la puissance des modèles pour accomplir un travail efficace pour vous . Donc, ça fonctionne très bien. Et enfin, Glean est aussi une plateforme d'IA. Le fait que nous nous connectons à tous les systèmes de l'entreprise et que nous puissions construire cette couche de contexte et de graphe de connaissances très riche, nous l'offrons également à d'autres outils d'IA, pas seulement à notre propre collaborateur ou à notre propre générateur d'agents. Mais, si vous créez des agents ailleurs, vous pouvez aussi tirer parti du contexte d'entreprise de Clean. C'est précisément ce contexte qui est essentiel. Vous parliez des hallucinations, et quand vous demandez à l'IA de faire des choses, elle peut commettre des erreurs. Elle en fait, elle en fait encore beaucoup. C'est assez choquant de voir à quel point les modèles restent, vous savez, imprévisibles. Même s'ils s'améliorent, qu'ils peuvent fonctionner longtemps et réaliser des prouesses, ils commettent toujours fondamentalement des erreurs. La solution consiste essentiellement à construire un contexte solide au sein de votre entreprise. Ainsi, lorsque vous demandez à l'IA de travailler pour vous, vous devez définir les bonnes garde-fous. Pour chaque tâche, avant même d'utiliser les capacités génératives de l'IA, vous devez vous assurer de rassembler les bons matériaux, le bon contexte, les informations et les données nécessaires à sa résolution. Et c'est ce que nous faisons. Nous assemblons donc le contexte approprié pour la tâche que vous essayez d'accomplir. Ensuite, nous demandons aux modèles : "Hé, faites ce travail, mais utilisez ce contexte.""Ce sont vos matières premières, alors assurez-vous de les utiliser pour travailler." Nous mettons donc en place les garde-fous et les instructions adéquats dans les modèles, afin qu'ils restent dans la bonne direction. Mais une fois que les modèles ont produit leur travail et renvoyé un résultat, nous effectuons une validation. Nous nous assurons que chaque ligne de réponse du modèle d'IA est vérifiée par rapport au contexte que nous avons fourni. Et si nous ne trouvons pas de preuve des informations que le modèle résume pour nous, alors nous refaisons le travail. C'est en quelque sorte l'une des manières... Vous voulez des citations de documents ou ce genre de choses ? Comme de la correspondance textuelle ? Oui, d'accord. Exactement, oui. En fait, chaque ligne, vous savez, quand Glean vous donne une réponse, par exemple pour un cas d'usage de questions-réponses, chaque ligne de cette réponse inclut aussi une référence à l'information officielle et à jour de votre entreprise. Si nous ne pouvons pas la trouver, alors nous ne voulons pas la montrer à l'utilisateur. C'est de l'ingénierie de base, n'est-ce pas ? Vous travaillez avec les modèles, vous savez qu'ils vont faire des erreurs, donc vous ajoutez une couche supérieure pour effectuer cette validation. Vous travaillez aussi avec beaucoup d'entreprises, ce qui implique des contrats à grande échelle, etc. Nous avons vu ces dernières années la difficulté pour certaines entreprises de faire confiance aux modèles. Nous avons vu des fuites, comme ce qui s'est passé entre Apple et ChatGPT, etc. Comment équilibrez-vous cela pour vos clients professionnels afin de garantir que leurs données restent leurs données, et que les informations confidentielles restent confidentielles ? Parce qu'à partir du moment où vous commencez à utiliser Anthropic ou OpenAI, les données peuvent potentiellement être utilisées, n'est-ce pas ? Oui. C'est une très bonne question. Nous faisons beaucoup d'efforts pour assurer la protection des données et informations confidentielles que possède une entreprise. En fait, notre modèle de travail, tout d'abord, est que chaque information dans l'entreprise est confidentielle, et pas seulement une partie. C'est tout, n'est-ce pas ? Tout leur appartient. D'abord, Glean travaille avec différents fournisseurs de modèles, et nous avons les bons accords contractuels avec eux pour garantir que nous offrons une capacité de rétention de données nulle à nos clients. Nous nous assurons que toute information de l'entreprise utilisée par un modèle ne puisse pas être enregistrée ou sauvegardée par le fournisseur du modèle. Nous offrons strictement une rétention de données nulle. Mais cela dépend aussi un peu des tiers, les fournisseurs de modèles , pour qu'ils fassent ce qu'il faut. Il peut aussi y avoir des erreurs ou des bugs. Les systèmes d'ingénierie peuvent toujours rencontrer des problèmes. Il faut donc aller au-delà de ce qui est attendu. Donc oui, configurez une rétention de données nulle. Mais ensuite, lorsque nous travaillons, vous savez, avec l'IA en entreprise, nous avons également de nombreux mécanismes pour assurer, grâce à la sécurité à l'exécution , que nous ne prenons pas d'informations sensibles pour les envoyer telles quelles aux modèles. Par exemple, nous pouvons toujours effectuer un certain niveau d'obfuscation ou de remappage des données personnelles, pour garantir que même en cas d'erreur du fournisseur de modèle, et bien qu'ils promettent une rétention de données nulle, ils ne puissent pas les conserver, car nous n'envoyons jamais les informations sensibles, les ayant préalablement obfuscées dans un paquet sécurisé. C'est un exemple de technique que nous mettons en place pour aider nos clients entreprises à se sentir à l'aise avec l'utilisation de l'IA. C'est important car nous travaillons avec les plus grandes entreprises mondiales qui manipulent énormément d'informations sensibles. Enfin, nous offrons un choix de modèles, ce qui nous permet, pour chaque entreprise, de définir la liste des modèles avec lesquels elles se sentent à l'aise et de les utiliser. C'est l'avantage d'être agnostique vis -à-vis des modèles et de proposer plus de 100 modèles dans notre hub. Cela inclut également les modèles auto-hébergés. Donc, en tant qu'entreprise, si vous êtes très sensible et que vous ne voulez absolument pas que des données transitent sur Internet, même de manière sécurisée, nous nous assurons que l'inférence reste localisée au sein de votre propre pare-feu privé. Voici donc quelques-unes des choses que nous faisons pour aider les entreprises à adopter l'IA en toute confiance. Super. Et je pense qu'au cours des 6 derniers mois, nous avons vu les modèles open source se rapprocher de plus en plus des modèles de pointe. Nous avons l'impression que l'écart se réduit. Quelle est votre prédiction pour les 12 à 24 prochains mois ? Pensez-vous que cet écart continuera de se réduire, ou pensez-vous qu'il finira par se creuser à nouveau ? Non, je pense que l'écart va se réduire. En fin de compte, l'open source finit toujours par gagner pour la plupart des technologies. Quoi qu'il soit construit, les stratégies commerciales les plus réussies consistent généralement à adopter le mouvement open source, car il y a tellement d'élan, d'