Comment Glean garantit que les compétences restent sécurisées et tiennent compte des autorisations

Imaginez qu’un employé importe une compétence à l’apparence utile depuis un dépôt public – un « formateur de rapports trimestriels » avec des instructions claires et un script d’exemple utile. Mais un fichier de référence contient une autre instruction : extraire des données du CRM et les envoyer vers un serveur externe.

Un agent pourrait exécuter les deux tâches, même si l’employé n’a demandé qu’un rapport formaté.

Les compétences, par définition, regroupent des outils et de l’expertise sous forme de code, et peuvent être partagées entre systèmes. Lorsque les plateformes d’entreprise et leurs environnements de codage les implémentent de manière naïve, les compétences peuvent masquer des accès trop permissifs et favoriser l’injection de code malveillant. Une compétence mal délimitée ou trop privilégiée peut orienter un agent vers des données auxquelles il ne devrait pas accéder, des chaînes d’outils qui ne sont pas sûres à enchaîner, ou des actions qui s’écartent de ce que l’utilisateur avait réellement l’intention de faire.

C’est le problème central de conception : comment permettre à l’entreprise d’étendre le comportement de l’IA sans transformer chaque nouvelle compétence en une nouvelle voie de fuite de données, d’exécution dangereuse ou de prolifération incontrôlée ?

Dans cet article de blog, nous expliquons le problème de sécurité posé par les compétences et comment nous avons conçu Glean pour les rendre sûres à utiliser en entreprise. Nous expliquons comment Glean sécurise les compétences à chaque étape de leur cycle de vie :

1. Analyse avant l’entrée
2. Un courtier d’identifiants à l’exécution
3. Des contrôles d’accès pour passer à l’échelle en toute sécurité 

Analyser les compétences avant leur exécution

Les compétences peuvent provenir de dépôts privés, de places de marché publiques, de formats ouverts, de workflows basés sur GitHub, ou d’outils externes – rien de tout cela ne doit offrir un raccourci contournant la gouvernance. Les mêmes contrôles de revue, d’analyse et de publication doivent s’appliquer, quelle que soit l’origine d’une compétence.

Le modèle d’analyse de Glean évalue les compétences au moment de leur création, de leur téléversement, de leur import, de leur partage et de leur publication – et les réanalyse automatiquement dès qu’elles changent. De manière critique, il considère l’ensemble du package de la compétence comme une surface d’attaque, en examinant la description visible, les métadonnées, les exemples, les scripts, les références et les pièces jointes afin de détecter :

• L’injection de prompt ou des instructions cachées
• Un risque d’exfiltration de données ou des destinations sortantes suspectes
• Un usage dangereux des outils / une agentivité excessive, comme pousser l’assistant vers des outils plus larges que nécessaire

Chaque compétence reçoit un verdict – acceptée, revue recommandée, ou bloquée – avec des explications sur les facteurs de risque qui le motivent. Les administrateurs et les modérateurs de compétences peuvent examiner les résultats, demander des modifications, marquer une compétence comme sûre, ou bloquer sa version actuelle.

Isoler les compétences à l’exécution

Une compétence peut façonner le comportement d’un agent, mais elle ne doit pas contrôler l’environnement dans lequel elle s’exécute ni détenir les identifiants qu’elle utilise. Glean l’assure en exécutant les fichiers et le code de la compétence dans un bac à sable isolé. Lorsqu’une compétence a besoin d’un système externe, un courtier d’identifiants vérifie la destination et la requête par rapport à la politique, puis médiatise l’accès avec uniquement l’identifiant autorisé. Les identifiants restent en dehors de la compétence et du bac à sable, et les politiques peuvent bloquer les requêtes vers des destinations non approuvées.

Il s’agit d’une application de l’architecture plus large de Glean pour une exécution agentique sécurisée, et pas d’un contrôle réservé aux compétences. Les bacs à sable contiennent du code d’agent non fiable les courtiers d’identifiants gouvernent où il peut se connecter, sous quelle identité et avec quelle autorité.

Les compétences façonnent le comportement, tandis que les bacs à sable contraignent l’exécution et les courtiers gouvernent l’accès. Cette séparation sécurise les compétences sans les traiter comme du code de confiance.

La gouvernance est ce qui rend les compétences sûres à l’échelle

Les contrôles à l’exécution ne représentent que la moitié de l’histoire. L’autre moitié, c’est la gouvernance.

La vision de Glean est simple : les administrateurs fixent le plafond, les utilisateurs fixent le plancher. Les utilisateurs avancés peuvent créer ou importer des compétences librement – la création ascendante est l’endroit d’où viennent les meilleures compétences. Les équipes adoptent les plus utiles. Les administrateurs décident de ce qui est promu au périmètre d’un département ou de l’organisation, de ce qui est activé automatiquement, et de ce qui est retiré.

En pratique, la gouvernance des compétences se manifeste par :

• Des contrôles d’accès sur le partage au niveau utilisateur et au niveau organisation
• Des rôles d’administrateur et de modérateur
• La gestion du cycle de vie du brouillon à la publication avec historique versionné et retour arrière
• La priorité aux compétences personnelles lorsqu’il existe un chevauchement de nommage avec des compétences publiées par les administrateurs
• Un catalogue de compétences de confiance plutôt qu’un catalogue large et non vérifié

L’ouverture et le contrôle ne sont pas un compromis

Un faux choix circule sur le marché : soit vous participez à l’écosystème ouvert des compétences, soit vous maintenez le contrôle en entreprise. Les entreprises devraient pouvoir faire les deux.

Glean prend en charge les imports basés sur GitHub (à la fois les dépôts publics et les dépôts privés auxquels l’utilisateur est autorisé à accéder) ainsi que les compétences invoquées via MCP, afin que les entreprises puissent adopter des compétences de l’écosystème plus large sans compromettre une gouvernance centralisée. Chacune de ces compétences passe par la même analyse, la mise en bac à sable, le courtage et la gouvernance décrits ci-dessus.

Cette distinction ne fera que gagner en importance avec le temps. À mesure que les compétences se diffusent sur davantage de surfaces, la valeur durable ne viendra pas d’être le seul endroit où les compétences peuvent être créées. Elle viendra d’être l’endroit où elles sont gouvernées, évaluées, distribuées et améliorées en toute sécurité.

La promesse de l’entreprise : une expertise réutilisable avec des politiques intégrées

Les compétences deviennent un élément important de l’IA en entreprise – un standard ouvert pour packager et réutiliser l’expertise. Mais comme tout mécanisme qui donne au raisonnement du modèle la capacité de modifier librement un environnement en production, elles doivent être gouvernées, ce qui en fait aussi l’une des nouvelles frontières de sécurité les plus importantes.

La bonne architecture est gouvernée

grâce à une exécution isolée, un accès médié par un broker, l’application des politiques en dehors du runtime, l’analyse avant distribution, et des contrôles d’administration qui permettent aux entreprises de décider quelles compétences sont prêtes à être déployées à grande échelle dans l’organisation. Glean fournit toutes ces fonctionnalités sur sa plateforme, permettant d’intégrer les compétences dans le travail quotidien sans les sortir des contrôles de sécurité et de gouvernance de l’entreprise.

Disponibilité des fonctionnalités : ces capacités sont désormais généralement disponibles, notamment l’exécution sécurisée des compétences, la gouvernance des compétences, l’analyse des compétences, les compétences importées via GitHub, et les compétences importées via Glean MCP.