Raisonnement agentique : l’avenir de l’IA au travail

Lorsque nous avons lancé Glean en 2019, notre objectif était de rendre la recherche de réponses au travail aussi simple que d’utiliser Google. Dans mon entreprise précédente, Rubrik, nous avons atteint un plafond de productivité après être passés à 2 000 employés en moins de quatre ans, car personne ne parvenait à trouver les informations ou les experts dont il avait besoin. N’ayant pas trouvé de solution à ce défi de productivité, j’ai décidé de la construire.  ;

Depuis, Glean a non seulement créé la solution de recherche d’entreprise basée sur l’IA la plus avancée au monde, mais est aussi devenu l’assistant IA sur lequel les employés s’appuient pour accomplir leur travail au quotidien. Comment en sommes-nous arrivés là ? Avec le lancement de ChatGPT en 2022, les entreprises ont rapidement perçu le potentiel des grands modèles de langage (LLMs) pour transformer le travail. Mais ces modèles avaient un défaut majeur : ils manquaient de contexte propre à l’entreprise et hallucinaient souvent. C’est alors que la Retrieval Augmented Generation (RAG) a émergé — en s’appuyant sur la recherche pour ancrer les LLMs dans des connaissances fiables.

Si les assistants peuvent aider pour des requêtes et des tâches simples, ils ont eu du mal avec des workflows complexes. Les dernières avancées des LLMs, combinées à des enseignements sur l’optimisation de ces modèles pour des tâches spécifiques, ont renforcé les capacités des assistants pour les rapprocher d’agents. Les agents sont capables de planifier, d’exécuter, d’évaluer et d’agir pour atteindre des objectifs, en s’adaptant en continu à partir des retours. Ces agents élargissent le potentiel de l’IA pour faire avancer le travail : ils peuvent résoudre des tickets de support client, aider les ingénieurs à déboguer des incidents en production et adapter le ton de voix des communications corporate.

Aujourd’hui, je suis ravi de partager un aperçu de la nouvelle architecture de raisonnement agentique de Glean, conçue pour aider les utilisateurs à mener à bien des workflows complexes en s’appuyant sur la recherche de pointe de Glean et sur sa technologie RAG. Ci-dessous, j’ai détaillé davantage notre parcours — de la recherche d’entreprise à la plateforme Work AI — ainsi que notre vision de l’avenir de l’IA agentique au travail.

Recherche

Glean a été créé pour aider les employés à trouver des réponses au sein de leur organisation, à travers des centaines à des milliers d’applications SaaS fragmentées. Les tentatives précédentes visant à résoudre la recherche d’entreprise n’avaient pas abouti, car elles n’adoptaient pas une approche à la Google, avec un crawl continu des données, puis l’indexation, la normalisation et le classement, pensés pour l’entreprise. Beaucoup reposaient sur la recherche fédérée, qui récupère des informations via des API de recherche disponibles. Cette méthode est souvent incomplète et ne tient pas compte des relations entre les personnes, les contenus et l’activité.

En tant que l’un des premiers ingénieurs search chez Google, j’ai compris l’importance, à la fois, de la personnalisation et de l’autorité des contenus lors de la conception de la recherche d’entreprise chez Glean. L’une des innovations majeures des débuts de Google a été l’algorithme PageRank, qui déterminait l’importance et la pertinence d’une page web en fonction du nombre d’autres pages pointant vers elle. Chez Glean, nous nous sommes inspirés du PageRank pour développer nos propres algorithmes d’autorité adaptés à l’entreprise.

Nous avons conçu une architecture de recherche hybride qui comprend un modèle de langage auto-apprenant, un algorithme de recherche lexicale et un graphe de connaissances. Cette architecture prend en charge différents modes de recherche, allant de recherches très spécifiques basées sur des mots-clés — comme le titre exact d’un document — à des recherches plus larges, comme les bonnes pratiques pour résoudre un ticket de support, et des recherches personnalisées, comme des notes de réunion.

Modèle de langage auto-apprenant

Google a introduit BERT (Bidirectional Encoder Representations from Transformers), qui a considérablement amélioré la compréhension du langage naturel en prenant en compte l’ensemble du contexte des mots. Cela a déplacé le focus du simple appariement de mots-clés vers la compréhension du sens derrière les mots — un concept aujourd’hui connu sous le nom de recherche sémantique.  ;

Glean a construit un modèle de langage propriétaire auto-apprenant en s’appuyant sur les éléments fondamentaux de BERT. Glean crée un modèle sur mesure pour chaque entreprise, qui apprend en continu le dialecte de l’entreprise, en apportant du contexte sur les projets, les termes, les équipes, et plus encore. Au cours des six premiers mois d’utilisation de Glean dans une entreprise, la qualité de recherche s’améliore généralement de 20 % grâce à cet auto-apprentissage continu.

Algorithme de recherche lexicale

Après avoir mené des centaines d’expériences pendant des mois, nous avons découvert que l’hétérogénéité des données d’entreprise rend difficile l’adaptation des algorithmes de recherche grand public au monde de l’entreprise. Les commentaires Slack, par exemple, sont très courts et n’ont pas de titres, ce qui affecterait négativement leur scoring dans des algorithmes grand public.

Nous avons repensé en profondeur la recherche lexicale pour l’entreprise, en tenant compte des subtilités et des cas limites que d’autres solutions peuvent facilement manquer.

Graphe de connaissances

Avec la seule recherche sémantique et lexicale, Glean aurait encore du mal à trouver des informations faisant autorité comme « benefits ». En entreprise, les utilisateurs ont des préférences variées : rechercher le contenu le plus faisant autorité (par ex. « benefits »), personnel (par ex. « OKRs ») ou récent (par ex. « outage »). Par ailleurs, une multitude de relations influencent les résultats de recherche, notamment les collaborateurs proches, le lieu, l’ancienneté, l’équipe, et bien plus encore. Glean a construit un graphe de connaissances à travers des centaines d’applications pour comprendre en profondeur les relations entre les personnes, les données d’activité et les contenus.  ; ;  ;

Autorisations

Comme je l’ai mentionné plus haut, l’une des raisons pour lesquelles d’autres solutions de recherche d’entreprise ont échoué, c’est qu’elles s’appuyaient sur des connecteurs fédérés. Glean a construit un écosystème de connecteurs pour plus de 100 applications d’entreprise, qui ingère et indexe les contenus, l’activité et les données d’identité. Cette approche inclut une structure d’autorisations alignée sur celles de chaque application. Les utilisateurs qui recherchent des informations ne verront que celles auxquelles ils sont autorisés à accéder.

Retrieval Augmented Generation (RAG)

La RAG est, au fond, un problème de recherche. Il s’agit de trouver des informations pertinentes et de les fournir à un grand modèle de langage (LLM) afin de générer une réponse.  ;

Au départ, l’architecture RAG était expliquée de manière simple : utiliser un LLM pour le raisonnement et une base de données vectorielle pour la connaissance. Il est vite devenu évident que la RAG nécessite des considérations plus nuancées, telles que la modélisation des données pour les embeddings, la gestion des autorisations pour les LLMs, le prompt engineering, le fine-tuning, ainsi que la mise en place de garde-fous IA pour garantir la qualité et la sécurité.  ;

Nous avons compris très tôt que le raisonnement ne pouvait pas être confié uniquement au LLM  le système RAG devait guider le processus de raisonnement.

Sans système RAG, le LLM est susceptible de générer des hallucinations, de divulguer des données et de fournir des réponses non pertinentes.  ;

Glean aide les LLMs à générer des réponses de chat pertinentes et précises, tout en garantissant la sécurité des données et le respect des autorisations. Plutôt que de développer nos propres LLMs, nous nous sommes concentrés sur l’optimisation du système de retrieval pour accomplir le travail.  ;

Notre architecture RAG initiale se composait de trois composants clés : planifier, récupérer et générer.

Planifier

Dans la recherche traditionnelle, les résultats sont optimisés à l’aide d’une multitude de facteurs, notamment les clics, le positionnement des clics et le temps que l’utilisateur a passé sur une page. Un assistant, en revanche, n’a qu’une seule chance de fournir une réponse pertinente avec des données d’interaction limitées.  ;

Nous avons notamment optimisé l’expérience de l’assistant grâce à la planification de requêtes. Lors de la planification de requêtes, nous apprenons au LLM à utiliser le moteur de recherche Glean pour récupérer les informations nécessaires afin de répondre à la question de l’utilisateur. Cela inclut la réécriture de la requête afin d’y intégrer des connaissances propres à l’entreprise sur les sources de données disponibles et sur la manière dont elles peuvent être interrogées.

À mesure que les LLMs continuent d’étendre leurs fenêtres de contexte, Glean peut intégrer davantage de connaissances d’entreprise dans les réponses des LLMs. Nous itérons en continu sur la sélection du contexte, en arbitrant entre latence et précision, pour offrir la meilleure expérience utilisateur.  ;

Récupérer

Lors de la récupération, les informations pertinentes sont extraites depuis Glean et envoyées à un LLM. La récupération s’appuie sur le même système de recherche initialement conçu pour la recherche en entreprise. Comme pour la recherche en entreprise, la récupération applique les autorisations, garantissant que le LLM formule sa réponse uniquement à partir de données auxquelles l’utilisateur a accès. En concevant les autorisations en amont des LLMs, Glean répond efficacement au problème de la fuite de données. De plus, nous avons des accords contractuels avec les fournisseurs de LLM afin de garantir une rétention des données à zéro jour et d’empêcher l’entraînement des modèles sur les données d’entreprise.

Générer

Le LLM génère une réponse à partir du contexte pertinent fourni par Glean. Une fois la réponse générée, nous la passons en revue et fournissons des citations. Ces citations permettent aux utilisateurs de vérifier facilement les résultats et d’accéder aux documents d’origine pour obtenir un contexte supplémentaire.

Évaluation de l’IA

Glean utilise des LLMs pour évaluer et surveiller de manière programmatique les réponses de l’assistant. Cela nous permet à la fois d’améliorer en continu notre système d’assistant et d’évaluer et prendre en charge les modèles les plus récents. Nous notons les performances du LLM à la fois sur la récupération (a-t-il récupéré les documents les plus pertinents liés à la question de l’utilisateur) et sur la génération (a-t-il extrait les informations de ces documents pour générer une réponse).  ;

On pense souvent que les évaluateurs humains sont plus précis que les évaluateurs IA. Pour tester notre système basé sur des LLM, nous avons demandé à des membres de l’équipe d’évaluer des requêtes et des réponses.  ; Notre équipe n’était d’accord que 79% du temps, tandis que l’IA était d’accord 74% du temps, ce qui met en évidence le potentiel de l’évaluation basée sur l’IA pour atteindre une précision proche de celle des humains.

Raisonnement agentique

Lorsque les clients Glean ont commencé à utiliser notre assistant, ils posaient des questions de recherche simples comme : « Résume mes OKRs », et nous avons conçu notre système pour prendre en charge ces requêtes. À mesure que nos clients avancent dans l’adoption de l’IA, ils demandent désormais à Glean de gérer des tâches plus complexes, telles que : « Réponds à ce ticket support. »  ;

Pour fournir une réponse optimale, Glean doit exécuter plusieurs étapes, notamment comprendre la cause profonde du problème du client, rechercher dans la base de connaissances ou les articles de documentation en gardant ce problème en tête, synthétiser les informations pertinentes et rédiger une réponse utile en s’appuyant sur des connaissances propres à l’entreprise.  ;

Répondre à un ticket support n’est qu’un exemple parmi des tâches plus complexes pour lesquelles les utilisateurs attendent l’aide de Glean. À mesure que les utilisateurs en demandent davantage à Work AI, des avancées technologiques sont en cours pour renforcer les capacités de raisonnement des LLMs et améliorer notre propre capacité, chez Glean, à entraîner des agents pour des tâches spécifiques. Les premières recherches sur notre nouvelle architecture ont montré une hausse significative de 24% de la pertinence des réponses et des actions grâce au raisonnement agentique.

Avec le raisonnement agentique, les agents décomposent les questions en plans à plusieurs étapes. Chaque étape est exécutée par des agents à l’aide d’outils tels que la recherche, le raisonnement, l’analyse de données, la recherche d’employés et la recherche d’experts. Les agents s’autoévaluent afin d’optimiser la manière d’atteindre l’objectif.

Découvrons ci-dessous un aperçu de la nouvelle architecture de raisonnement agentique de Glean.

Recherche

Nous évaluons la requête et, à l’aide d’heuristiques, déterminons si elle peut être traitée via la recherche ou via le raisonnement agentique. La recherche est utilisée pour des réponses rapides et précises, étayées par la connaissance de l’entreprise. Par exemple, « Quels sont les OKRs du département d’ingénierie ? » conviendrait parfaitement à la recherche. Le raisonnement agentique est conçu pour des requêtes plus complexes.

Réflexion

En s’autoévaluant, les agents peuvent apprendre de leurs erreurs et de leurs réussites. Cela leur permet de s’adapter à de nouvelles situations et d’améliorer leurs performances au fil du temps. L’agent s’autoévalue à partir des résultats de recherche initiaux et estime son propre niveau de confiance dans sa réponse. Il peut également anticiper les outils disponibles dans le parcours agentique et déterminer s’ils aideraient ou non à répondre à la question. À ce stade, l’agent se trouve à un carrefour : il peut s’arrêter à la recherche ou choisir de poursuivre sur la voie agentique.  ;

Chez Glean, nous avons expérimenté l’autoréflexion à différents moments de l’architecture de raisonnement agentique. Nous avons essayé d’utiliser l’autoréflexion dans le cadre d’une boucle agentique, en laissant le LLM itérer en continu jusqu’à atteindre l’objectif. Avec les capacités de raisonnement des LLMs actuels, nous avons constaté qu’ils ne pouvaient pas vérifier de façon fiable si la réponse se trouvait dans les données indexées, ce qui faisait déraper la boucle. Nous avons observé le potentiel des LLMs pour améliorer la précision (c’est-à-dire ancrer les réponses dans la connaissance) et nous sommes optimistes : de futures améliorations du rappel (c’est-à-dire déterminer si la réponse se trouve dans les données indexées) rendront la boucle agentique réalisable.

Plan

Lors de l’étape de planification, nous formulons notre stratégie. Nous voulons d’abord comprendre en profondeur la question à laquelle l’utilisateur cherche à répondre. Pour gagner en clarté, nous lançons une série de questions initiales au LLM afin de recueillir des informations de contexte. Ces informations aident Glean à réfléchir stratégiquement à la manière d’atteindre l’objectif global et à décomposer les étapes nécessaires pour y parvenir. À partir de ce contexte, nous réécrivons la requête sous forme de plan en plusieurs étapes.

Le plan, comme tout bon plan de projet, décrit la séquence des étapes, maintient le travail sur la bonne trajectoire et garantit l’atteinte de l’objectif. Les plans de Glean sont influencés par la mémoire ou le contexte issu des interactions passées avec l’utilisateur.

Execute

Des sous-agents exécutent chaque étape. Ils déterminent quels outils utiliser (recherche, analyse de données, e-mail, calendrier, recherche d’employés, recherche d’experts, etc.) et comment les assembler pour atteindre des objectifs individuels.  ;

La base de nombreux outils dans Glean est la recherche. Nous avons pu intégrer le raisonnement agentique dans notre architecture à un rythme effréné parce que nous avons passé des années à perfectionner la recherche et à construire le graphe de connaissances, le modèle linguistique auto-apprenant et l’algorithme de recherche lexicale.

Lorsque nous avons conçu notre architecture de raisonnement agentique, nous avons envisagé plusieurs archétypes d’agents, notamment des agents d’utilisation d’outils :

• Agents d’utilisation de l’ordinateur (forte généralisation) : Ces agents sont capables d’effectuer toute tâche qu’un humain peut réaliser sur un ordinateur, en exécutant des actions de base comme des clics et des saisies au clavier.
• Agents d’utilisation d’outils (généralisation moyenne) : Ces agents utilisent des actions de niveau intermédiaire qui équilibrent flexibilité et efficacité, en gérant des tâches comme l’automatisation de workflows et le traitement de données.
• Agents spécialisés (faible généralisation) : Ces agents orchestrateurs coordonnent des sous-agents spécialisés, chacun optimisé pour des tâches spécifiques comme le support client, la rédaction de contrats et le débogage en ingénierie.

Chez Glean, nous avons choisi d’utiliser des agents basés sur des outils, car ils offrent un bon compromis entre l’étendue des tâches et la complexité. J’aime considérer les outils comme un couteau suisse : ils sont polyvalents, multifonctions et peuvent accomplir un large éventail de tâches.  ;

Nous avons également investi dans des agents multi-spécialisés, en nous associant à des clients pour comprendre leurs workflows répétitifs au sein des différents départements de l’entreprise. Les agents spécialisés sont entraînés sur les nuances de leur mission et mobilisent le bon ensemble d’outils pour mener le travail à bien.  ;

Respond

Il existe différentes formes de réponses, allant d’une réponse de chat en langage naturel générée par un LLM à une action comme la création d’un ticket Jira. À l’avenir, nous envisageons une multitude d’actions simultanées et liées pour faire avancer le travail. Dans le cas de la résolution d’un ticket de support, cela inclut répondre au ticket, clôturer la demande et notifier les équipes internes.  ; ;  ;

Réinventer Work AI

Réinventer Work AI est un parcours au long cours qui s’appuie sur les technologies fondamentales de Glean. Nous avons commencé par la recherche et évolué vers le RAG  aujourd’hui, nous passons du RAG au raisonnement agentique. Nous avons toujours adopté les avancées technologiques les plus récentes du moment — qu’il s’agisse de BERT, de LLMs ou d’agents — et notre culture de l’expérimentation nous a permis de développer un modèle linguistique auto-apprenant et un algorithme de recherche lexicale propriétaires, puis une architecture de raisonnement agentique.  ;

Chez Glean, nous pensons que la transformation par l’IA commence avec les employés — les personnes au travail. Notre vision est d’apporter Work AI à tous, en aidant chacun dans l’organisation à trouver l’information, générer des réponses et automatiser le travail. Nous sommes fiers de voir nos clients passer de simples requêtes de recherche à l’automatisation de workflows complexes, et nous restons déterminés à repousser les limites de l’innovation continue et de l’application concrète — deux piliers indissociables pour transformer l’avenir du travail.