Utiliser AI Evaluator pour s’assurer que Glean Assistant répond aux besoins des entreprises modernes

Glean Assistant permet aux travailleurs du savoir de trouver rapidement des réponses en associant les grands modèles de langage (LLM) à la recherche d'entreprise, grâce à une technique appelée génération augmentée par récupération (RAG). L'un des principaux défis consiste à évaluer la qualité de ce système à grande échelle tout en préservant la confidentialité des données de chaque entreprise.

Chez Glean, nous avons développé un système appelé AI Evaluator, qui utilise les LLM pour mesurer automatiquement les performances de Glean Assistant au sein du déploiement de chaque client, sans que leurs données ne soient jamais révélées publiquement. AI Evaluator nous permet de prendre des décisions sur les améliorations proposées pour Glean Assistant et de mesurer nos progrès au fil du temps.

Les défis de l'évaluation des systèmes d'IA générative

Évaluer et surveiller la qualité des assistants IA est un défi de taille. Nous évaluons la qualité du moteur de recherche Glean à l'aide de métriques traditionnelles basées sur les clics, mais cette approche ne fonctionne pas avec un assistant IA qui génère automatiquement des réponses à partir des résultats de recherche et ne nécessite aucune interaction supplémentaire de l'utilisateur. Les retours des utilisateurs ne fournissent qu'un signal très épars, car seule une partie des utilisateurs attribuent des votes positifs et négatifs. Ces retours peuvent également être biaisés, car ce comportement évolue en corrélation avec l'ancienneté de chaque utilisateur. 

Jusqu'à récemment, les ingénieurs de Glean évaluaient manuellement les modifications apportées à notre système, une tâche chronophage et limitée soit aux données propres de Glean, soit aux réponses incohérentes signalées par nos clients. Cependant, les LLM offrent une solution prometteuse pour automatiser cette évaluation et cette surveillance des réponses de l'assistant IA, un concept actuellement exploré tant dans l'industrie que dans le monde académique. Toutefois, nous devons relever plusieurs défis afin de créer un système d'évaluation efficace basé sur les LLM :

1. Biais : les LLM peuvent présenter divers biais, notamment le biais de position (préférence pour les réponses en fonction de leur emplacement), le biais de verbosité (préférence pour les réponses plus longues) et le biais d'auto-valorisation (préférence pour ses propres réponses).
2. Incohérence de la notation : les LLM sont non déterministes, ce qui engendre une notation incohérente et peu fiable. 
3. Alignement avec la notation humaine et l'expérience de l'utilisateur final : il est essentiel de garantir que les évaluations du LLM correspondent aux jugements humains et à la satisfaction des utilisateurs. 

Pour atténuer ces défis, les recherches actuelles suggèrent plusieurs bonnes pratiques pour construire un système d'évaluation efficace basé sur les LLM :

1. Notation à réponse unique : dans la mesure du possible, utilisez la notation à réponse unique plutôt que les comparaisons par paires afin d'éviter le biais de position. 
2. Notation catégorielle plutôt que numérique : utilisez des notations catégorielles plutôt que numériques, car elles sont plus interprétables et moins sujettes aux variations dues aux changements de prompt. Lorsque des étiquettes numériques sont nécessaires, une plage de faible précision (par exemple, 0-3) est préférable à une plage de haute précision (par exemple, 0-100).
3. Techniques d'ingénierie de prompts : employez des techniques d'ingénierie de prompts largement reconnues, telles que le raisonnement en chaîne de pensée (chain-of-thought) et les exemples d'apprentissage en contexte, pour s'aligner sur les notations humaines et améliorer la qualité du LLM-juge. 
4. Ensemble de modèles : utilisez un panel de modèles pour juger les LLM, afin de prévenir le biais d'auto-valorisation. 

En respectant ces pratiques, nous avons créé un système d'évaluation basé sur les LLM, robuste et fiable, capable de surveiller et d'améliorer efficacement les performances de notre assistant IA d'entreprise. À l'avenir, nous explorerons des techniques telles que l'utilisation d'un ensemble de modèles (en pratique, un « jury de LLM ») pour atténuer les biais comme l'auto-valorisation. 

Notre approche de l'évaluation

Glean Assistant comporte deux composantes majeures :

• L'étape de récupération utilise un planificateur de requêtes pour déterminer l'ensemble des requêtes à émettre, exécute ces requêtes auprès du moteur de recherche d'entreprise Glean et obtient un ensemble classé de documents potentiellement pertinents, dans le respect des permissions.
• L'étape de génération invite un LLM à déterminer lesquels des documents récupérés sont réellement pertinents par rapport à la question de l'utilisateur, puis à générer une réponse ancrée dans ces documents.

Pour garantir la plus haute qualité des performances de notre assistant, nous avons conçu un système d'évaluation qui évalue séparément les composantes de récupération et de génération, selon une approche similaire au cadre RAGAS (Retrieval Augmented Generation Assessment). 

Évaluer la composante de récupération

Sur le plan de la récupération, notre système d'évaluation s'attache à déterminer si les documents récupérés sont pertinents par rapport à la requête de l'utilisateur. Nous exploitons des métriques de récupération traditionnelles et nous concentrons sur les suivantes :

1. Taux de pertinence du contexte : cette métrique mesure le pourcentage de documents récupérés pertinents par rapport à la requête. En évaluant la pertinence du contexte récupéré, nous pouvons mesurer l'efficacité de notre système de récupération à identifier et à faire remonter les informations les plus pertinentes.
2. Taux de rappel du contexte : cette métrique évalue le pourcentage de requêtes pour lesquelles le document canonique (c'est-à-dire la source d'information la plus faisant autorité et la plus complète) est correctement récupéré. Bien que le rappel du contexte soit une métrique importante, l'évaluer automatiquement sans accès à des réponses de référence peut s'avérer complexe, en particulier dans un contexte d'entreprise où l'obtention de réponses de référence n'est pas toujours évolutive.

Pour répondre à la difficulté d'évaluer automatiquement le rappel du contexte, nous avons développé des ensembles d'évaluation ciblés qui permettent à nos ingénieurs d'itérer et d'affiner l'aspect rappel du contexte de notre système. Voici quelques exemples de la manière dont nous avons constitué ces ensembles d'évaluation :

• Des sessions de l'assistant où des utilisateurs insatisfaits finissent par se tourner vers la recherche et affinent leurs requêtes pour trouver les informations qu'ils recherchent
• Des sessions de l'assistant où les requêtes sont similaires à des paires question-réponse extraites hors ligne que nous avons générées à partir de documents présents dans le corpus
  

Grâce aux deux approches décrites ci-dessus, nous sommes en mesure d'attribuer directement quel document aurait contenu le bon contexte, puis de commencer à diagnostiquer pourquoi notre système n'a pas réussi à récupérer ces documents en premier lieu.

Évaluer le composant de génération

Côté génération, notre processus d'évaluation se concentre sur l'appréciation de la qualité de la réponse finale générée et présentée à l'utilisateur. Nous examinons plusieurs aspects essentiels de la réponse générée, notamment :

1. La pertinence de la réponse : cette mesure évalue si la réponse générée est pertinente par rapport à la requête de l'utilisateur. Une réponse pertinente doit répondre directement aux éléments clés de la question et fournir des informations en lien avec l'intention de l'utilisateur. Il s'agit d'une classification binaire entre pertinent et non pertinent. 
2. L'exhaustivité de la réponse : cette mesure évalue si la réponse générée traite complètement tous les aspects de la requête. Une réponse complète doit couvrir tous les détails pertinents et ne laisser aucune lacune d'information significative ni aucune question sans réponse. Nous avons défini ici trois options différentes — complète, incomplète et sans réponse — afin de capturer les différents niveaux d'exhaustivité des réponses. 
3. La fiabilité (groundedness) : cette mesure évalue si la réponse générée repose sur des informations factuelles et des éléments issus du contexte récupéré. Une réponse fiable doit s'appuyer sur des sources crédibles et ne doit contenir aucune affirmation non étayée ni information spéculative. Nous avons constaté que, dans certains cas, les LLM peuvent halluciner, ce qui conduit à des réponses non fiables.  

Pour l'évaluation de la pertinence et de l'exhaustivité, nous invitons le LLM à choisir l'une des options définies, en fournissant quelques exemples (few-shot) pour illustrer à quoi ressemblent les différents types de réponses. Nous demandons également au LLM de fournir d'abord un raisonnement avant de choisir une étiquette (chaîne de pensée) afin d'améliorer son respect de nos instructions.

Pour l'évaluation de la fiabilité, le LLM est d'abord invité à générer toutes les affirmations contenues dans la réponse générée. Pour chacune de ces affirmations, il doit choisir l'une des options suivantes : inférable, générique ou non fiable. « Inférable » signifie que l'affirmation peut être déduite du contexte, « générique » désigne des énoncés qui n'ont pas besoin d'être étayés, et « non fiable » désigne des affirmations fausses ou contradictoires.  Le score de fiabilité est ensuite calculé en fonction du nombre d'affirmations fiables par rapport au nombre total d'affirmations.

En combinant ces mesures d'évaluation pour les composants de récupération et de génération, nous obtenons une compréhension globale de l'efficacité d'ensemble de notre Glean Assistant et nous identifions les domaines à améliorer.

Résultats

Pour établir une référence pour notre système d'évaluation basé sur les LLM, nous avons collecté un jeu de données interne composé de requêtes et de réponses de l'assistant. Nous avons chargé plusieurs membres de l'équipe d'évaluer toutes les requêtes de ce jeu de données selon le schéma décrit précédemment. Nous avons utilisé leurs évaluations pour calculer l'accord inter-évaluateurs et avons constaté que, dans seulement 79 % des requêtes, l'équipe avait choisi la même étiquette. Cet accord inter-évaluateurs peut être considéré comme une limite supérieure de ce que nous pouvons potentiellement atteindre avec un système d'évaluation automatisé.

Notre système actuel a atteint un taux de concordance avec les humains de 74 %, ce qui signifie que, dans 74 % des requêtes, l'étiquette attribuée par l'AI Evaluator correspondait à l'évaluation humaine. Atteindre un taux de concordance aussi élevé constitue une étape importante, démontrant que notre système s'aligne déjà étroitement sur le jugement humain. Nous pensons qu'il s'agit d'une orientation prometteuse pour les systèmes d'évaluation, et l'écart actuel pourra être encore réduit grâce à des modèles de langage plus puissants et à des recherches supplémentaires. 

Nous avons également analysé la corrélation entre les prédictions de l'AI Evaluator et la rétention des utilisateurs sur notre produit AI Assistant. La rétention des utilisateurs a été définie comme la probabilité qu'un utilisateur revienne pour sa prochaine session de l'Assistant dans un délai d'un jour ouvré. Nous avons constaté que l'intégration des signaux de l'AI Evaluator en tant que caractéristiques de notre modèle de rétention des utilisateurs améliorait la précision des prédictions de 18,8 % par rapport à l'utilisation des seuls signaux d'interaction des utilisateurs. En particulier, nous avons constaté que recevoir des réponses « Sans réponse » et de faibles scores de fiabilité étaient de solides prédicteurs de l'attrition des utilisateurs. 

Conclusion

Au-delà de notre motivation principale — surveiller de manière proactive la qualité de l'Assistant —, notre système d'évaluation basé sur les LLM apporte de la valeur de bien d'autres façons. Ce système nous permet d'identifier les catégories de requêtes pour lesquelles l'Assistant excelle et de cibler les domaines à améliorer. Côté développement, les ingénieurs de Glean peuvent désormais accélérer la vélocité de leurs expérimentations en suivant l'impact de leurs modifications sur ces métriques et en itérant sur des ensembles d'évaluation plus ciblés. Par exemple, nous avons créé des ensembles d'évaluation « difficiles » de l'Assistant à partir de requêtes pour lesquelles nous obtenions de mauvais résultats en matière de complétude, signalant une défaillance plus en amont dans notre système. Cela permet à nos ingénieurs de se concentrer sur des domaines spécifiques à améliorer et de rehausser la qualité globale de l'Assistant.

Nous continuerons à innover et à améliorer notre système AI Evaluator à l'avenir, en apportant de nouvelles optimisations et en veillant à ce que notre Assistant IA réponde aux besoins en constante évolution des entreprises modernes. Si vous souhaitez nous aider à développer des applications avancées des LLM, consultez les postes ouverts chez Glean !