Pour tirer le meilleur parti des solutions de recherche d’entreprise et d’IA générative les plus performantes, les employés doivent pouvoir leur faire confiance. Pour que cela soit possible, il est essentiel que les informations injectées dans le modèle respectent strictement les règles d’autorisation définies pour chaque document. Sans cette garantie, les collaborateurs n’ont aucune certitude que les documents confidentiels le resteront. Les utilisateurs peuvent perdre confiance dans la plateforme, ce qui nuit à son utilisabilité et ralentit l’adoption de nouvelles technologies potentiellement transformatrices. ;
Un système d’autorisations correctement conçu garantit que les systèmes d’IA générative n’accèdent et n’utilisent que les données auxquelles ils sont explicitement autorisés, quel que soit l’app ou l’utilisateur. Par exemple, l’assistant IA de Glean tient pleinement compte des autorisations et est personnalisé : il ne puise des informations que lorsque l’utilisateur y a explicitement accès. Cela permet non seulement de préserver la sécurité et la confidentialité des données sensibles, mais aussi d’améliorer la pertinence et la personnalisation des réponses de l’IA.
Si vous cherchez à développer ou intégrer une IA générative au travail, un cadre robuste de prise en compte des autorisations doit figurer tout en haut de la liste pour garantir son adéquation aux environnements métier. Dans cet article, je partagerai plus en détail pourquoi et comment il faut prioriser les autorisations, ainsi que la manière dont nous structurons notre propre solution prête pour l’entreprise. ;
Exhaustif, mais nuancé
Une excellente solution d’IA générative doit avoir accès à l’ensemble de vos contenus et de votre activité : c’est le seul moyen de garantir des résultats toujours pertinents, récents et suffisamment nuancés pour répondre exactement à ce dont vous avez besoin pour chaque requête. Cependant, cela pose un défi en matière d’autorisations et de confidentialité, car des règles strictes d’accès aux données doivent être respectées à tous les niveaux afin de garantir la sécurité des informations sensibles.
Par exemple, dès le déploiement de Glean, les autorisations et les règles d’accès aux données deviennent une priorité clé. Glean applique le principe du moindre privilège : les utilisateurs ne reçoivent que le niveau minimal d’accès auquel ils sont autorisés. Cela permet à notre système de faire respecter strictement les règles d’accès aux données qui existent à plusieurs niveaux, dans l’ensemble des applications. ;
Concurrence et scalabilité
Un autre défi majeur consiste à tout maintenir à jour, en permanence, quelle que soit l’échelle. Les autorisations doivent être mises à jour en temps réel pour garantir la sécurité des données : les règles d’autorisation changent fréquemment, et il est essentiel qu’elles soient prises en compte le plus rapidement possible. Toutefois, des facteurs tels que les limites de débit des API peuvent entraver la collecte et le traitement des informations pour tous les types de documents.
À l’instar du développement de crawlers, les problèmes d’API et les comportements instables (flakes) représentent aussi un défi de taille lorsqu’il s’agit d’informations d’autorisations. Les structures d’autorisations doivent être suffisamment flexibles et résilientes pour gérer ces complications, tout en étant assez robustes pour comprendre comment chaque document doit être affiché pour chaque utilisateur. ;
Par ailleurs, le calcul et le stockage des autorisations des documents doivent être performants et économes en stockage. Même s’il est tentant de marquer les autorisations utilisateur document par document, cela coûte extrêmement cher à indexer et les performances de chargement des documents se dégradent à cause des besoins de stockage accrus. ;
{{richtext-banner-component}}
Modèle d’autorisations unifié ;
Il vaut donc mieux construire un cadre compatible avec toutes les sources de données et capable de comprendre les différentes architectures d’autorisations propres à chaque source. Cependant, les autorisations des sources de données peuvent être aussi simples que les autorisations au niveau du document (une simple liste d’utilisateurs) ou aussi complexes que des groupes imbriqués, des modèles basés sur les rôles utilisateurs, et d’autres propriétés spécifiques. ;
Le cadre d’autorisations de chaque source de données est également unique : il faut mener une investigation et faire de la rétro‑ingénierie pour comprendre comment la source implémente la visibilité des documents. Le comportement des autorisations est aussi souvent peu documenté ou pas assez exhaustif pour couvrir tous les cas possibles, ce qui rend l’exercice encore plus complexe. ;
Les sources de données peuvent aussi présenter des comportements spécifiques qu’il faut prendre en charge afin de reproduire la fonctionnalité de recherche de cette source. Voici quelques exemples de cas limites à considérer :
- Des documents rendus visibles publiquement uniquement lorsqu’un utilisateur les a déjà consultés. Cela existe par exemple avec certaines autorisations GDrive.
- Des autorisations d’accès temporaires. Certaines sources de données permettent d’attribuer des autorisations pour une durée limitée pour refléter ce comportement, les systèmes doivent rester parfaitement synchronisés. ;
- Des documents qui ne fournissent pas de listes aplaties des utilisateurs ou groupes autorisés. Ces documents ne spécifient que des critères généraux « autorisés » et « non autorisés », qu’il faut résoudre manuellement. ;
Développer un système qui prend en compte l’ensemble de ces éléments peut s’avérer un chantier important, nécessitant des ressources et des efforts d’ingénierie conséquents. Chez Glean, il nous a fallu au départ des années pour ajuster notre solution afin qu’elle gère correctement ces complexités et ces cas limites, pour des corpus de toute taille. ;
De bonnes autorisations rendent l’IA prête pour l’entreprise
Mettre en place un système d’autorisations correctement conçu pour toute solution d’IA générative ou de recherche est indispensable pour garantir qu’elle est prête pour l’entreprise, mais ce n’est pas simple à construire. Prendre le temps d’affiner des autorisations sécurisées pour des solutions d’IA générative peut retarder le time-to-value, compliquer l’alignement interne, et entraîner des coûts importants par la suite lorsqu’il s’agit de la développer, la maintenir et la former en interne. ;
Les données d’entreprise constituent la ressource la plus précieuse pour toute organisation, et comprendre comment les exploiter au mieux – et les protéger – deviendra de plus en plus essentiel à mesure que les collaborateurs adoptent de nouveaux outils dans des environnements de travail numériques complexes. Si vous souhaitez vous lancer dès aujourd’hui avec une IA générative réellement prête pour l’entreprise, dotée d’une solution de gestion des autorisations prête à l’emploi, inscrivez-vous pour une démo Glean ; !
