Utiliser AI Evaluator pour s’assurer que Glean Assistant répond aux besoins des entreprises modernes

L’Assistant Glean permet aux travailleurs du savoir de trouver rapidement des réponses en associant de grands modèles de langage (LLMs) à la recherche d’entreprise, via une technique appelée Retrieval Augmented Generation (RAG). Un défi majeur consiste à évaluer la qualité de ce système à grande échelle tout en préservant la confidentialité des données de chaque entreprise.

Chez Glean, nous avons développé un système appelé AI Evaluator, qui utilise des LLMs pour mesurer automatiquement les performances de l’Assistant Glean au sein du déploiement de chaque client, sans que leurs données ne soient jamais rendues publiques. AI Evaluator nous permet de prendre des décisions sur les améliorations proposées pour l’Assistant Glean et de mesurer nos progrès dans la durée.

Défis liés à l’évaluation des systèmes d’IA générative

Évaluer et surveiller la qualité des assistants IA est un défi majeur. Nous évaluons la qualité du moteur de recherche Glean à l’aide de métriques traditionnelles basées sur les clics, mais cette approche ne fonctionne pas avec un assistant IA qui génère automatiquement des réponses à partir des résultats de recherche et ne nécessite pas d’interaction supplémentaire de la part de l’utilisateur. Les retours utilisateurs ne fournissent qu’un signal très faible, puisque seule une partie des utilisateurs attribue des votes positifs & ; négatifs. Ces retours peuvent aussi être biaisés, car ce comportement évolue en corrélation avec l’ancienneté de chaque utilisateur.  ;

Jusqu’à récemment, les ingénieurs Glean évaluaient manuellement les changements apportés à notre système, ce qui était chronophage et limitait le périmètre soit aux propres données de Glean, soit à des réponses incohérentes signalées par nos clients. Cependant, les LLMs offrent une solution prometteuse pour automatiser cette évaluation et ce suivi des réponses des assistants IA, un concept actuellement exploré à la fois dans l’industrie et dans le milieu académique. Néanmoins, nous devons relever plusieurs défis afin de créer un système d’évaluation efficace basé sur des LLM :

1. Biais : les LLMs peuvent présenter différents biais, notamment le biais de position (préférence pour les réponses selon leur position), le biais de verbosité (favoriser des réponses plus longues) et le biais d’auto-amélioration (préférer ses propres réponses).
2. Incohérence de la notation : les LLMs sont non déterministes, ce qui entraîne une notation incohérente et peu fiable.  ;
3. Alignement avec la notation humaine et l’expérience de l’utilisateur final : il est crucial de s’assurer que les évaluations du LLM correspondent aux jugements humains et à la satisfaction des utilisateurs.  ;

Pour atténuer ces défis, la recherche actuelle recommande plusieurs bonnes pratiques pour construire un système d’évaluation efficace basé sur des LLM :

1. Notation à réponse unique : lorsque c’est possible, privilégier la notation à réponse unique plutôt que les comparaisons par paires afin d’éviter le biais de position.  ;
2. Notation catégorielle plutôt que numérique : utiliser des évaluations catégorielles plutôt que numériques, car elles sont plus interprétables et moins sujettes aux variations dues aux changements de prompt. Lorsque des labels numériques sont nécessaires, une plage à faible précision (p. ex., 0-3) est préférable à une plage à haute précision (p. ex., 0-100).
3. Techniques de prompt engineering : employer des techniques de prompt engineering largement reconnues, telles que le raisonnement en chain-of-thought et des exemples d’apprentissage in-context, afin de s’aligner sur les évaluations humaines et d’améliorer la qualité du LLM-as-a-judge.  ;
4. Ensemble de modèles : utiliser un panel de modèles pour évaluer les LLMs, afin d’éviter le biais d’auto-amélioration.  ;

En respectant ces pratiques, nous avons créé un système d’évaluation robuste et fiable basé sur des LLM, capable de surveiller et d’améliorer efficacement les performances de notre assistant IA d’entreprise. À l’avenir, nous explorerons des techniques comme l’utilisation d’un ensemble de modèles (en pratique, un « jury de LLM ») pour atténuer des biais tels que l’auto-amélioration.  ;

Notre approche d’évaluation

L’Assistant Glean comporte deux composants principaux :

• L’étape de retrieval utilise un planificateur de requêtes pour déterminer l’ensemble des requêtes à exécuter, les lance sur le moteur de recherche d’entreprise Glean et obtient un ensemble classé de documents potentiellement pertinents, en toute sécurité vis-à-vis des permissions.
• L’étape de génération incite un LLM à raisonner sur les documents récupérés qui sont réellement pertinents pour la question de l’utilisateur, puis à générer une réponse ancrée dans ces documents.

Pour garantir la meilleure qualité possible des performances de notre assistant, nous avons conçu un système d’évaluation qui mesure séparément les composants retrieval et génération, en suivant une approche similaire au framework RAGAS (Retrieval Augmented Generation Assessment).  ;

Évaluer le composant retrieval

Côté retrieval, notre système d’évaluation vise à déterminer si les documents récupérés sont pertinents pour la requête de l’utilisateur. Nous nous appuyons sur des métriques de retrieval traditionnelles et nous concentrons sur les suivantes :

1. Taux de pertinence du contexte : cette métrique mesure le pourcentage de documents récupérés qui sont pertinents pour la requête. En évaluant la pertinence du contexte récupéré, nous pouvons mesurer l’efficacité de notre système de retrieval à identifier et mettre en avant les informations les plus pertinentes.
2. Taux de rappel du contexte : cette métrique évalue le pourcentage de requêtes pour lesquelles le document canonique (c’est-à-dire la source d’information la plus faisant autorité et la plus complète) est correctement récupéré. Bien que le rappel du contexte soit une métrique importante, l’évaluer automatiquement sans accès à des réponses de référence peut être difficile, en particulier dans un contexte d’entreprise où l’obtention de réponses de référence peut ne pas être scalable.

Pour répondre à la difficulté d’évaluer automatiquement le rappel du contexte, nous avons développé des ensembles d’évaluation ciblés qui permettent à nos ingénieurs d’itérer et d’affiner l’aspect « rappel du contexte » de notre système. Voici quelques exemples de la manière dont nous avons constitué ces evalsets :

• Des sessions de l’assistant où des utilisateurs insatisfaits finissent par se tourner vers la recherche et affinent leurs requêtes pour trouver l’information qu’ils recherchent
• Des sessions de l’assistant où les requêtes sont similaires à des paires question-réponse extraites hors ligne que nous avons générées à partir des documents du corpus
  

Grâce aux deux approches ci-dessus, nous pouvons attribuer directement quel document aurait contenu le bon contexte, puis commencer à diagnostiquer pourquoi notre système n’a pas réussi à récupérer ces documents dès le départ.

Évaluer le composant de génération

Côté génération, notre processus d’évaluation se concentre sur l’appréciation de la qualité de la réponse finale générée et présentée à l’utilisateur. Nous examinons plusieurs aspects essentiels de la réponse générée, notamment :

1. Pertinence de la réponse : cet indicateur évalue si la réponse générée est pertinente par rapport à la requête de l’utilisateur. Une réponse pertinente doit traiter directement les éléments clés de la question et fournir des informations en lien avec l’intention de l’utilisateur. Il s’agit d’une classification binaire : pertinent ou non pertinent.  ;
2. Exhaustivité de la réponse : cet indicateur évalue si la réponse générée traite intégralement tous les aspects de la requête. Une réponse exhaustive doit couvrir tous les détails pertinents et ne laisser aucun manque d’information important ni question sans réponse. Nous avons défini ici trois options — complète, incomplète et sans réponse — afin de capturer différents niveaux d’exhaustivité.  ;
3. Ancrage factuel : cet indicateur évalue si la réponse générée est ancrée dans des informations factuelles et des preuves issues du contexte récupéré. Une réponse ancrée doit être étayée par des sources crédibles et ne doit contenir aucune affirmation non étayée ni information spéculative. Nous avons constaté que, dans certains cas, les LLMs peuvent halluciner, ce qui entraîne des réponses non ancrées.  ; ;  ;

Pour l’évaluation de la pertinence et de l’exhaustivité, nous demandons au LLM de choisir l’une des options définies, en fournissant des exemples few-shot pour illustrer à quoi ressemblent différents types de réponses. Nous demandons également au LLM de fournir d’abord un raisonnement avant de choisir un libellé (chain-of-thought) afin d’améliorer le respect de nos consignes.

Pour l’évaluation de l’ancrage factuel, on demande d’abord au LLM de générer toutes les affirmations présentes dans la réponse générée. Pour chacune de ces affirmations, il doit choisir l’une des options suivantes : déductible, générique ou non ancrée. « Déductible » signifie que l’affirmation peut être déduite du contexte, « générique » renvoie à des énoncés qui n’ont pas besoin d’être étayés, et « non ancrée » renvoie à des affirmations fausses ou contradictoires.  ; Le score d’ancrage factuel est ensuite calculé en fonction du nombre d’affirmations ancrées par rapport au nombre total d’affirmations.

En combinant ces indicateurs d’évaluation pour les composants de récupération et de génération, nous obtenons une compréhension holistique de l’efficacité globale de notre Glean Assistant et identifions des axes d’amélioration.

Résultats

Pour établir une référence pour notre système d’évaluation basé sur des LLMs, nous avons collecté un jeu de données interne composé de requêtes et de réponses de l’assistant. Nous avons demandé à plusieurs membres de l’équipe d’évaluer l’ensemble des requêtes de ce jeu de données selon le schéma décrit plus haut. Nous avons utilisé leurs évaluations pour calculer l’accord inter-évaluateurs, et nous avons constaté que, pour seulement 79% des requêtes, l’équipe a choisi le même libellé. Cet accord inter-évaluateurs peut être considéré comme une borne supérieure de ce que nous pouvons potentiellement atteindre avec un système d’évaluation automatisé.

Notre système actuel a atteint un taux d’accord avec l’humain de 74 %, ce qui signifie que, pour 74 % des requêtes, le libellé attribué par l’AI Evaluator correspondait à l’évaluation humaine. Atteindre un taux d’accord avec l’humain aussi élevé constitue une étape importante, démontrant que notre système s’aligne déjà étroitement sur le jugement humain. Nous pensons que c’est une direction prometteuse pour les systèmes d’évaluation, et que l’écart actuel peut encore être réduit grâce à des modèles de langage plus puissants et à des recherches supplémentaires.  ;

Nous avons également analysé la corrélation entre les prédictions de l’AI Evaluator et la rétention des utilisateurs sur notre produit AI Assistant. La rétention des utilisateurs était définie comme la probabilité qu’un utilisateur revienne pour sa prochaine session Assistant dans un délai d’un jour ouvré. Nous avons constaté que l’intégration des signaux de l’AI Evaluator en tant que variables dans notre modèle de rétention améliorait la précision des prédictions de 18,8 % par rapport à l’utilisation exclusive des signaux d’interaction utilisateur. En particulier, nous avons constaté que la réception de réponses « Sans réponse » et de faibles scores d’ancrage factuel étaient de forts prédicteurs de churn.  ;

Conclusion

Au-delà de notre motivation principale — surveiller de manière proactive la qualité de l’Assistant —, notre système d’évaluation basé sur des LLM apporte de la valeur de bien d’autres façons. Il nous permet d’identifier les classes de requêtes sur lesquelles l’Assistant excelle, et de repérer précisément les domaines à améliorer. Côté développement, les ingénieurs Glean peuvent désormais accélérer le rythme de leurs expérimentations en suivant l’impact de leurs changements sur ces métriques, puis en itérant sur des ensembles d’évaluation plus ciblés. Par exemple, nous avons créé des ensembles d’évaluation « difficiles » pour l’Assistant à partir de requêtes sur lesquelles nous obtenions de mauvais résultats en termes d’exhaustivité, signe d’un échec plus en amont dans notre système. Cela permet à nos ingénieurs de se concentrer sur des axes précis d’amélioration et d’augmenter la qualité globale de l’Assistant.

Nous continuerons à innover et à améliorer notre système AI Evaluator à l’avenir, afin de stimuler de nouvelles avancées et de garantir que notre AI Assistant réponde aux besoins en constante évolution des entreprises modernes. Si vous souhaitez nous aider à créer des applications avancées basées sur des LLMs, n’hésitez pas à consulter les postes ouverts chez Glean !