Pour tirer le meilleur parti des solutions performantes de recherche d'entreprise et d'IA générative, les employés doivent pouvoir leur faire confiance. Pour cela, il est essentiel que les informations transmises au modèle respectent scrupuleusement les règles d'autorisation définies pour chaque document. Sans cette garantie, les collaborateurs ne peuvent pas savoir si les documents confidentiels le resteront. Les utilisateurs risquent de perdre confiance dans la plateforme, ce qui nuit à son utilisabilité et ralentit l'adoption de technologies nouvelles au potentiel transformateur.
Un système d'autorisations bien conçu garantit que les systèmes d'IA générative n'accèdent qu'aux données qu'ils sont explicitement autorisés à utiliser, et qu'ils ne se servent que de celles-ci, quelle que soit l'application ou l'utilisateur. Par exemple, l'assistant IA de Glean est entièrement conscient des autorisations et personnalisé : il ne puise que dans les informations auxquelles l'utilisateur a explicitement accès. Cela permet non seulement de préserver la sécurité et la confidentialité des données sensibles, mais aussi d'améliorer la pertinence et la personnalisation des résultats produits par l'IA.
Si vous souhaitez créer ou intégrer une IA générative pour le travail, un cadre robuste de gestion des autorisations doit figurer en tête de liste des priorités pour garantir qu'elle est prête pour les environnements professionnels. Dans cet article, je vais vous expliquer plus en détail pourquoi et comment la gestion des autorisations doit être prioritaire, ainsi que la façon dont nous structurons notre propre solution prête pour l'entreprise.
Exhaustive mais nuancée
Une excellente solution d'IA générative doit pouvoir accéder à l'ensemble de vos contenus et de votre activité : c'est le seul moyen de garantir des résultats toujours pertinents, récents et suffisamment nuancés pour répondre précisément à chaque requête. Cependant, cela pose un défi en matière d'autorisations et de confidentialité, car des règles strictes d'accès aux données doivent être respectées à tous les niveaux afin de protéger les informations sensibles.
Par exemple, dès le déploiement de Glean, les règles d'autorisation et d'accès aux données constituent une priorité essentielle. Glean fonctionne selon le principe du moindre privilège, qui consiste à n'accorder aux utilisateurs que le niveau d'accès minimal auquel ils sont autorisés. Cela permet à notre système d'appliquer strictement les règles d'accès aux données existant à plusieurs niveaux, dans toutes les applications.
Concurrence et évolutivité
Un autre défi majeur consiste à maintenir les informations à jour en permanence, quelle que soit l'échelle. Les autorisations nécessitent des mises à jour en temps réel afin de garantir la sécurité des données : les règles d'autorisation changent souvent, et il est essentiel qu'elles soient répercutées le plus rapidement possible. Cependant, des facteurs tels que les limites de débit des API peuvent entraver la capture et le traitement des informations sur tous les types de documents.
Comme pour le développement de crawlers, les problèmes et les défaillances des API posent également une difficulté considérable lorsqu'il s'agit de traiter les informations d'autorisation. Les structures d'autorisation doivent être suffisamment flexibles et résilientes pour gérer ces complications, tout en étant assez robustes pour comprendre comment chaque document doit être présenté à chaque utilisateur.
De plus, le calcul et le stockage des autorisations de documents doivent être performants et économes en espace. Bien qu'il soit tentant d'annoter individuellement les autorisations des utilisateurs document par document, cela s'avère extrêmement coûteux à indexer et les performances de chargement des documents en pâtissent en raison des besoins accrus de stockage.
{{richtext-banner-component}}
Modèle d'autorisations unifié
Il est préférable de concevoir un cadre compatible avec toutes les sources de données, capable de comprendre les différentes architectures d'autorisation propres à chaque source. Cependant, les autorisations d'une source de données peuvent être aussi simples que celles d'un modèle de document (une simple liste d'utilisateurs) ou aussi complexes que des groupes imbriqués, des autorisations basées sur les rôles des utilisateurs et d'autres propriétés uniques.
Le cadre d'autorisation de chaque source de données est également unique, nécessitant une investigation et une rétro-ingénierie pour découvrir comment la source de données met en œuvre la visibilité des documents. Le comportement des autorisations est en outre souvent mal documenté ou insuffisamment exhaustif pour couvrir toutes les solutions possibles, ce qui rend la tâche encore plus difficile.
Les sources de données peuvent aussi présenter des comportements uniques qu'il faut gérer afin de reproduire la fonctionnalité de recherche de la source de données concernée. Voici quelques exemples de cas particuliers à prendre en compte :
- Les documents qui ne deviennent visibles publiquement que lorsqu'un utilisateur a déjà consulté ce document auparavant. Certaines autorisations GDrive en sont un exemple.
- Les autorisations d'accès temporaire. Certaines autorisations de sources de données permettent d'attribuer des autorisations pour une durée limitée ; pour reproduire ce comportement, les systèmes doivent donc être parfaitement synchronisés.
- Les documents qui ne fournissent pas de listes aplaties d'utilisateurs ou de groupes autorisés. Ces documents ne précisent que des critères généraux « autorisés » et « non autorisés », qui doivent être résolus manuellement.
Développer un système qui tient compte de tous les éléments ci-dessus peut représenter une entreprise d'envergure nécessitant des ressources et des efforts d'ingénierie considérables. Chez Glean, il nous a d'abord fallu des années pour affiner notre solution afin de prendre en compte correctement ces complexités et ces cas particuliers, pour des corpus de toute échelle.
Une bonne gestion des autorisations rend l'IA prête pour l'entreprise
Mettre en place un système d'autorisations bien conçu pour toute solution d'IA générative ou de recherche est essentiel pour garantir qu'elle est prête pour l'entreprise, mais ce n'est pas facile à construire. Prendre le temps d'affiner une gestion sécurisée des autorisations pour les solutions d'IA générative peut entraîner un retard dans la création de valeur, des difficultés d'alignement en interne, ainsi que des coûts importants par la suite en matière de développement, de maintenance et d'entraînement de la solution par vos propres moyens.
Les données d'entreprise constituent la ressource la plus précieuse de toute organisation, et comprendre comment les exploiter au mieux – et les protéger – sera plus crucial que jamais à mesure que les collaborateurs adoptent de nouveaux outils dans des environnements de travail numériques complexes. Si vous souhaitez vous lancer dès aujourd'hui avec une IA générative réellement prête pour l'entreprise, dotée d'une solution de gestion des permissions clés en main, inscrivez-vous pour une démo de Glean !
