Comment déployer des agents IA en toute confiance : présentation d’AWARE et des nouvelles fonctionnalités de Glean Protect

Les agents IA deviennent rapidement plus performants jour après jour, transformant la manière dont le travail est accompli en automatisant des décisions, en orchestrant des workflows et en agissant au nom des personnes à une échelle sans précédent. D’ici la fin de 2026, Gartner prévoit que 40% des applications d’entreprise intégreront des agents IA orientés tâche. Cependant, 69% des organisations citent les fuites de données alimentées par l’IA comme leur principale préoccupation en matière de sécurité, tandis que 47% n’ont aucun contrôle spécifique à l’IA en place, selon Big ID. Les dirigeants d’entreprise se posent la question suivante : comment déployer des agents sans perdre le contrôle ?

L’écart entre l’innovation en IA et la gouvernance se creuse. Les cadres de sécurité traditionnels n’ont pas été conçus pour une IA qui agit de manière autonome sur l’ensemble de votre pile technologique. Alors que les DSI recherchent la vitesse et l’innovation, les RSSI poussent pour davantage de visibilité et de gouvernance, la tension autour des agents IA est bien réelle.  ;

Présentation d’AWARE : un framework pour un déploiement sécurisé des agents IA

Pour aider à résoudre cette tension entre innovation et gouvernance, nous avons créé le framework AWARE afin de formaliser une philosophie sur la manière dont les entreprises devraient penser la gouvernance des agents IA.

Le framework AWARE est une collaboration menée par le Work AI Institute, notre centre de recherche chez Glean, en partenariat avec des leaders de la sécurité qui ne se contentent pas de rechercher l’IA : ils l’ont vue en production, connaissent les garde-fous dont les entreprises ont besoin et construisent activement la prochaine norme de sécurité. Nos co-auteurs du framework, Databricks et Palo Alto Networks, sont d’accord : les agents IA ont changé la manière dont nous devons penser la sécurité et la gouvernance.

Le framework AWARE vous aide à répondre à cinq questions critiques sur le comportement des agents :

• A – Intentions de l’acteur (Actor Intent) : Qui agit, ou qu’est-ce qui agit, et pourquoi ?
  
  • Les agents accomplissent une tâche spécifique, souvent au nom d’un humain. S’assurer qu’ils comprennent l’intention de cette tâche et restent dans ce périmètre est essentiel.
• W – Contexte de travail (Work Context) : Ces données ou cette action sont-elles sensibles dans ce contexte ?
  
  • La sensibilité dépend à la fois de la tâche à accomplir, de la personne et du moment où la demande est formulée, ce que de simples étiquettes statiques ne peuvent pas capturer.
• A – Garde-fous autonomes (Autonomous Guardrails) : Ce comportement respecte-t-il la politique et l’objectif ?
  
  • Les agents hallucinent, dérivent et agissent hors périmètre : c’est pourquoi des garde-fous sont nécessaires à l’exécution.
• R – Évaluation et blocage des risques en temps réel (Real-Time Risk Scoring & ; Blocking) : Quel est le niveau de risque, maintenant ?
  
  • Le système d’agents doit réagir aux risques au moment où ils surviennent, par exemple en cas de schémas d’accès rapides, d’appels API inattendus, et plus encore, afin de freiner les comportements d’abus.  ;
• E – Observabilité de l’écosystème (Ecosystem Observability) : Pouvons-nous tracer ce que l’agent a fait, entre les systèmes et dans le temps ?
  
  • Les agents opèrent à travers des applications, des API, des fichiers et des outils cloud. Pouvoir les tracer est important pour la responsabilité et la fiabilité.

Avec ce framework, les équipes IT et sécurité peuvent collaborer pour évaluer leur système agentique global ainsi que chaque agent nouvellement créé. En passant en revue ces questions, les équipes peuvent s’assurer qu’il existe des garde-fous clairs et une responsabilité définie pour les actions des agents. Elles peuvent également surveiller et remédier en continu à tout comportement potentiellement risqué.

Cela permet aux DSI de stimuler l’innovation et l’agilité business, et aux RSSI d’avoir la certitude que chaque agent opère dans des limites sécurisées et gouvernées. Avec AWARE, les organisations favorisent l’adoption des agents sans sacrifier la confiance ni le contrôle.

Consultez le framework AWARE complet pour savoir comment aborder les déploiements d’agents IA en toute sécurité.

Les garde-fous activés. Les risques réduits. Les agents accélérés. Découvrez les nouveautés de Glean Protect.

Pendant que le marché se précipite pour lancer des capacités IA, de nombreuses solutions contournent les contrôles de sécurité fondamentaux et exposent les entreprises au niveau de la plateforme. Nous avons adopté une approche différente : au lieu d’ajouter la sécurité après coup, nous la construisons dans les fondations de Glean conformément à notre framework AWARE.

Des agents IA qui restent dans leur périmètre

À mesure que les agents deviennent plus autonomes, Glean Protect continue de mettre en œuvre des garde-fous complets : des contrôles sur qui peut créer et déployer des agents et des limites sur les actions qu’ils peuvent entreprendre.

Désormais, vous pouvez appliquer des politiques de sujets restreints qui signalent ou empêchent en temps réel les conversations sur des sujets interdits. Pour de nombreuses organisations, il s’agit d’un moyen essentiel d’imposer une utilisation acceptable de l’IA au travail et de la maintenir centrée sur la productivité, tout en empêchant des conversations risquées sur la rémunération, les décisions de performance et les conseils financiers personnels.

Ce sont le genre de sujets qui inquiètent les entreprises lorsqu’elles introduisent l’IA dans l’organisation, et Glean aide à les bloquer avant qu’ils ne deviennent un problème de confidentialité ou de conformité. Nous avons aussi simplifié le démarrage avec des politiques prêtes à l’emploi pour les sujets courants à haut risque. Ces garde-fous déterministes autour des agents IA couvrent plusieurs aspects du framework AWARE, mais ils incarnent surtout le W – Contexte de travail, puisque ces données et cette action sont sensibles dans ce contexte.

Glean Protect propose également des modèles d’alignement des agents qui vérifient ce qu’un agent prévoit de faire avant de lui permettre de continuer. Ces vérifications pré-analysent chaque action d’écriture avant son exécution. Les modèles détectent et signalent les tentatives dangereuses ou non alignées des agents afin de réduire le risque de changements nuisibles dans vos systèmes. Imaginez un agent de coaching de performance qui prévoit de partager des notes dans un canal Slack destiné à toute l’organisation au lieu d’un message direct privé : les modèles d’alignement des agents détecteront cela avant que cela n’arrive. Pour revenir au framework AWARE, il s’agit du A – Garde-fous autonomes.

Tout cela s’ajoute à la protection d’exécution existante de Glean, conçue pour bloquer les injections de prompt, le code malveillant et les contenus toxiques au moment où ils se produisent. Cela peut être rattaché au R – Évaluation et blocage des risques en temps réel du framework AWARE, puisqu’il évalue le risque et arrête les attaques.  ;

Gardez facilement toutes vos données en sécurité

L’IA d’entreprise doit être ancrée dans le contexte complet de votre entreprise. Mais lorsque les données deviennent largement accessibles à l’IA, elle peut faire remonter des informations trop partagées qui étaient auparavant enfouies. Ce contenu n’était pas nécessairement problématique auparavant, car le trouver exigeait de savoir exactement où chercher. La sécurité par l’obscurité n’est pas une politique, mais pour de nombreuses entreprises, c’était une réalité accidentelle. C’est pourquoi les autorisations seules ne suffisent pas. À mesure que l’IA accroît la visibilité, les lacunes d’autorisation deviennent beaucoup plus apparentes, ce qui explique pourquoi les entreprises ont besoin d’une couche supplémentaire de protection via la détection et l’application de règles sur les données sensibles.

Pour intégrer des garde-fous déterministes, Glean Protect vous permet désormais d’activer immédiatement des politiques de contenu sensible prédéfinies. Au lieu de partir d’une page blanche pour la prévention des pertes de données, ces modèles de politiques peuvent commencer à analyser les schémas courants à haut risque et les comportements de partage excessif.

Parmi ces politiques prêtes à l’emploi, on trouve les secrets et identifiants, les données de cartes bancaires et de paiement, les informations médicales personnelles, ainsi que les données personnelles identifiables (PII), comme des identifiants personnels sensibles. Lorsque vous démarrez avec un modèle, vous pouvez ajuster la politique pour l’adapter aux besoins de votre organisation.

Glean découvre en continu le contenu sensible qui a été trop partagé et le masque automatiquement. Vous n’avez pas besoin d’être un expert en sécurité des données : les modèles de Glean commencent à protéger vos données immédiatement.

Les modèles de contenu sensible de Glean distinguent les signaux du bruit afin de déterminer le niveau de gravité des éléments sensibles détectés. Vous pouvez désormais aussi affiner le modèle pour lui faire comprendre ce qui est sensible pour votre organisation en langage naturel, par exemple : « Si des documents appartenant aux RH et contenant des infotypes de type “credentials” sont partagés avec une personne en dehors des RH, augmenter la gravité. » Ainsi, les modèles de contenu sensible peuvent fonctionner pour votre organisation.

Les politiques et les modèles de contenu sensible sont tous deux pertinents pour le W - Contexte de travail du framework AWARE. Il est important de mettre en place ces politiques pour déterminer les types de contenu sensibles au sein de votre organisation et les protéger.

Glean propose désormais un workflow de triage pour les éléments de contenu sensible détectés. Si vous voulez jouer la prudence, vous pouvez masquer automatiquement les données sensibles. Mais de nombreuses organisations souhaitent un cycle de revue et de remédiation afin de valider les résultats, d’attribuer clairement la responsabilité, de renforcer leur posture de sécurité des données et d’ajuster leurs modèles ou politiques en fonction de ce qui est réellement sensible pour leur organisation. Nous rendons cela possible grâce à un nouveau workflow de triage pour les éléments de contenu sensible détectés.

Et grâce à notre écosystème ouvert, vous pouvez facilement exporter ces résultats vers le SIEM/SOAR de votre choix.

Aujourd’hui, les équipes sécurité peuvent automatiser la gestion des résultats sensibles en intégrant les playbooks de remédiation Tines SOAR pour enquêter et résoudre les cas. En gérant les cas dans Tines, vous pouvez entièrement corriger le contenu trop partagé à la source.

Alors que nous avons déjà établi un partenariat avec Palo Alto Networks pour tirer parti de Prisma AIRS pour la sécurité d’exécution de l’IA, nous avons maintenant ajouté Cortex Cloud DSPM pour la gestion de la posture de sécurité des données, afin que les équipes sécurité puissent standardiser la sécurité à l’aide des outils dans lesquels vous avez déjà investi. Nous élargissons également cet écosystème sécurisé en intégrant la recherche agentique de Glean dans Prisma Browser, permettant aux utilisateurs de bénéficier d’une découverte intelligente, pilotée par l’IA, directement dans leurs sessions de navigation sécurisées.

Notre approche ouverte de notre programme de sécurité incarne le E – Observabilité de l’écosystème du framework AWARE. Nous allons au-delà de l’interface utilisateur de Glean pour nous intégrer aux meilleurs outils de sécurité que vos équipes utilisent déjà.

Cette suite de garde-fous de sécurité garantit que vos données sont toujours prêtes pour l’IA sans créer de nouveaux risques d’exposition.

Plateforme conçue pour la confidentialité dès l’origine

Notre approche du cloud est différente. Au lieu d’un modèle SaaS multi-tenant traditionnel, nous avons conçu notre solution pour les entreprises qui ont besoin que les données IA résident dans un environnement single-tenant. Notre architecture prend en charge un déploiement dans le cloud de votre choix (AWS, Azure ou GCP), ainsi qu’une couverture régionale pour répondre aux exigences de souveraineté des données des entreprises, le tout entièrement isolé de tout autre client.  ;

Aujourd’hui, nous introduisons un nouveau modèle de déploiement : le déploiement géré par le client.

Conçu pour certains de nos plus grands clients les plus exigeants en matière de sécurité, ce modèle donne aux organisations un contrôle direct sur le déploiement du code Glean dans leur cloud. Il est pensé pour les équipes ayant des exigences fortes sur l’endroit où le logiciel s’exécute, la manière dont le trafic circule et qui contrôle l’accès aux données.

Avec le déploiement géré par le client, vous contrôlez le déploiement du code dans votre environnement. Vous bénéficiez également d’une connectivité privée, où chaque requête utilisateur, réponse et journal peut rester sur votre réseau privé au lieu de transiter par Internet public. Vous définissez les destinations que Glean est autorisé à atteindre, et Glean reste dans ces limites. Vous pouvez également utiliser des clés gérées par le client, afin que vos données soient chiffrées avec des clés que vous contrôlez.

En pratique, cela signifie que l’infrastructure s’exécute dans votre cloud, que vous détenez les contrôles opérationnels et que vous gardez les clés qui régissent en fin de compte l’accès à vos données.  ;

Avec Glean, la plateforme est privée dès sa conception. Cela commence par nos modèles de déploiement et se prolonge dans les connecteurs qui appliquent les autorisations, les interactions IA autorisées par l’utilisateur et les modèles qui n’accèdent qu’aux données qu’un utilisateur est autorisé à voir, le tout soutenu par des accords avec les fournisseurs de modèles afin d’empêcher l’entraînement sur les données des clients ou leur conservation.

La plateforme Glean est validée par des certifications indépendantes. Glean a récemment obtenu la certification ISO 42001, première norme certifiable au monde pour les systèmes de gestion de l’IA (AIMS), et maintient les certifications ISO 27001, SOC 2 Type II et HIPAA, offrant ainsi le socle de sécurité et les garanties vérifiées qui rendent l’IA d’entreprise sûre.

La voie à suivre : déployer des agents IA en toute confiance

Nous espérons que la présentation du framework AWARE offre aux DSI et aux RSSI une meilleure manière de parler un langage commun sur le risque et la gouvernance des agents.

Ici, chez Glean, nous avons mis le framework AWARE en pratique. Cela commence par A – Intentions de l’acteur, où les agents agissent au nom de l’utilisateur avec des contrôles d’accès granulaires fondés sur les rôles. W – Contexte de travail, en aidant à garder l’IA centrée sur des cas d’usage approuvés grâce aux politiques de sujets restreints. A – Garde-fous autonomes, qui incluent des modèles d’alignement des agents maintenant les agents dans leur périmètre au lieu de les laisser dériver de leur objectif initial. R – Évaluation et blocage des risques en temps réel, pour bloquer des attaques comme l’injection de prompt et le code malveillant. Et E – Observabilité de l’écosystème, où les clients peuvent connecter Glean à leur pile de sécurité plus large sans perdre la journalisation, l’auditabilité et le contrôle nécessaires pour gouverner l’IA en toute confiance.

Avec AWARE et Glean Protect, vous n’avez pas à choisir entre les agents et la sécurité.

Vous voulez le voir en action ? Regardez le Security Showcase et inscrivez-vous dès aujourd’hui à une démo pour en savoir plus sur Glean.

Disponibilité des fonctionnalités : bon nombre de ces capacités sont désormais généralement disponibles, notamment les politiques de contenu sensible prêtes à l’emploi, les playbooks de remédiation Tines SOAR, le modèle de déploiement géré par le client, la connectivité privée et les clés gérées par le client. Certaines capacités, notamment les politiques de sujets restreints, les modèles d’alignement des agents, l’ajustement des modèles de contenu sensible en langage naturel, les workflows de triage des éléments sensibles détectés, Cortex Cloud DSPM et l’intégration directe de Glean dans Prisma Browser sont actuellement en bêta.