Les journaux d'AI Gateway peuvent-ils prouver la conformité ou se contentent-ils d'enregistrer l'activité ?

Les journaux d'AI Gateway ne prouvent la conformité que lorsque chaque entrée comporte une attribution, un lien avec une politique, une exhaustivité et une intégrité — sans ces quatre propriétés, les journaux de la passerelle montrent ce qui s'est passé, mais ne peuvent pas démontrer que cela était autorisé.

Les auditeurs qui examinent l'utilisation de l'IA veulent savoir pourquoi une action a été autorisée. Un horodatage et un identifiant d'utilisateur répondent à une question différente.

Chaque AI Gateway enregistre l'activité pertinente pour la conformité à l'endroit où les modèles rencontrent les données d'entreprise. Transformer cette journalisation d'activité en preuve de conformité est une décision de conception que les équipes prennent avant le déploiement.

Ce que les journaux d'AI Gateway capturent réellement

Les journaux d'AI Gateway sont des enregistrements structurés de chaque requête, réponse et action qui transite par la couche d'accès entre les personnes, les modèles d'IA et les données d'entreprise. Une entrée typique comprend :

• L'identité de l'utilisateur ou de l'agent qui a envoyé la requête
• Le texte du prompt
• La sortie du modèle
• Un horodatage et un identifiant de session
• Le résultat de toute vérification des autorisations

Les journaux de la passerelle diffèrent des journaux d'application généraux par l'endroit où ils sont capturés. Un journal d'application suit le comportement d'une seule application. Un journal de passerelle enregistre le trafic à la frontière de contrôle, là où un assistant ou des AI agents accèdent aux documents, aux tickets et aux dossiers clients.

Cette position rend les journaux de passerelle solides sur les faits d'exécution : un événement s'est produit, une identité spécifique l'a initié et des données spécifiques ont été touchées. La plupart des entrées s'arrêtent là et n'enregistrent jamais la raison pour laquelle une action a été autorisée. NHI Mgmt Group, une communauté de sécurité des identités non humaines, considère l'absence de classe de contenu, de destination ou de contexte de décision comme un signe que les contrôles pour les AI agents connectés aux systèmes d'entreprise sont en retard.

Pourquoi les enregistrements d'activité seuls ne prouvent pas la conformité

La conformité consiste à démontrer qu'une action a suivi une règle, une politique ou une réglementation spécifique. Les enregistrements d'activité montrent uniquement que l'action a eu lieu.

Prenons une entrée de journal qui indique « L'utilisateur a interrogé les dossiers clients à 14 h 14 ». L'entrée prouve qu'une requête a été exécutée. Prouver la conformité exige également des preuves que l'utilisateur était autorisé, que les données clients ont été traitées conformément à la politique et que la réponse est restée dans les limites.

L'écart se creuse lorsque l'accès à l'IA hérite de larges autorisations d'utilisateur. Selon NHI Mgmt Group, un assistant IA connecté à des systèmes d'entreprise en direct hérite des autorisations de l'utilisateur.

Par exemple, un responsable des ventes disposant d'un accès en lecture trop largement partagé à chaque compte demande à l'assistant un seul récapitulatif de renouvellement. L'assistant peut extraire des données de comptes non liés, et l'entrée correspondant à ce dépassement semble identique à une requête dans le périmètre.

Les auditeurs demandent quelle politique a justifié une action et si l'équipe peut retracer la chaîne de décision derrière la sortie. Les enregistrements d'activité ne répondent ni à l'une ni à l'autre de ces questions.

La journalisation à cocher dissimule ces écarts jusqu'à ce qu'un audit ou une analyse d'incident les révèle, et la gouvernance est souvent insuffisante dès le départ : IBM a constaté que 63 % des organisations victimes d'une violation n'avaient aucune politique de gouvernance de l'IA ou étaient encore en train d'en élaborer une. Les preuves d'une revue humaine en sont un cas fréquent.

Un clic d'approbation à lui seul ne montre pas ce qu'un relecteur a vérifié. Un statut « relu » et une connexion ne montrent pas si le relecteur a lu la sortie ou pourquoi il l'a approuvée. L'article 14 du règlement européen sur l'IA fixe des exigences de supervision humaine pour les systèmes d'IA à haut risque, ce qui relève le niveau d'exigence pour ce type de preuve de revue.

Ce qui transforme un journal en preuve de conformité

Un journal de passerelle devient une preuve de conformité lorsqu'il possède trois propriétés :

• L'attribution nomme qui ou quoi a agi et sur quelle autorité.
• Le lien avec une politique enregistre quelle règle a autorisé l'action et le verdict renvoyé par la vérification de la politique.
• L'exhaustivité signifie que chaque type d'interaction produit une entrée, de sorte qu'un enregistrement manquant signale de manière fiable une absence d'activité.

L'attribution fonctionne le mieux lorsque l'intention de l'utilisateur, l'action de l'assistant et l'effet secondaire côté système figurent dans des champs distincts. NHI Mgmt Group avertit que lorsqu'un assistant IA connecté à des systèmes d'entreprise regroupe ces trois éléments dans un seul flux d'événements, l'analyse post-incident s'affaiblit.

La journalisation tenant compte des autorisations comble l'écart d'attribution. Avec la vérification d'accès à l'intérieur de la couche d'IA, le journal capture les autorisations effectives de l'utilisateur au moment de la requête, plutôt qu'un rôle attribué plusieurs mois auparavant. Cela compte parce que les recherches d'IBM de 2025 sur les violations ont révélé que 97 % des violations liées à l'IA impliquaient des systèmes dépourvus de contrôles d'accès à l'IA appropriés.

Les journaux deviennent des preuves lorsqu'ils capturent les contrôles d'accès qui régissaient l'action. Ces détails incluent quelles sources de données étaient dans le périmètre et quelle politique a filtré les résultats.

Le stockage et le format déterminent si cette preuve résiste à l'examen. Un stockage en ajout uniquement et inviolable montre que personne n'a modifié les entrées après coup, ce qui correspond à la protection des informations d'audit dans le contrôle AU-9 de la norme NIST SP 800-53 Rév. 5. Des champs cohérents pour l'identité, la session, la classification des données et le verdict de la politique permettent à un auditeur de filtrer des milliers d'entrées sans analyser de texte libre.

Comment une architecture tenant compte des autorisations change ce que les journaux peuvent prouver

Une architecture tenant compte des autorisations applique les contrôles d'accès avant que le modèle ne voie la moindre donnée. La récupération filtre le contenu selon ce que l'utilisateur à l'origine de la requête peut ouvrir dans l'application source, et le journal enregistre ce filtre à côté de la requête. Chaque entrée comporte alors une preuve intégrée que les contrôles d'accès étaient actifs.

Cette conception diffère de deux alternatives courantes. La journalisation a posteriori examine les sorties une fois qu'elles existent, ce qui documente une fuite au lieu de la prévenir. Les instructions de prompt qui demandent à un modèle de respecter des limites laissent l'application au modèle, et aucun journal ne peut prouver que le modèle a obéi.

Intégrer la protection des données sensibles dans la couche d'IA fait du journal et du contrôle un même artefact. Glean, par exemple, protège les données sensibles en appliquant les autorisations lors de la récupération, de sorte que les réponses n'utilisent que les données auxquelles l'utilisateur peut accéder. Pour les détails de mise en œuvre, consultez la documentation de sécurité pour les agents IA et les développeurs.

Les auditeurs peuvent alors vérifier directement une interaction unique. Ils comparent les sources citées dans une entrée de journal avec la liste d'accès du système source pour cet utilisateur à ce moment précis. Chaque correspondance montre que l'IA n'a renvoyé que des données autorisées.

Dans ce modèle, les preuves d'accès existent dès l'instant où une requête s'exécute. Les équipes de conformité les interrogent comme n'importe quelle autre donnée opérationnelle, au lieu de les assembler lorsqu'un auditeur en fait la demande.

Là où les journaux de passerelle sont insuffisants sans une conception de gouvernance

Les journaux de passerelle sont insuffisants à cinq endroits prévisibles lorsque la gouvernance de l'IA n'est pas intégrée dès le départ.

La traçabilité des données est le premier écart. Un journal peut montrer quels documents ont alimenté une réponse, mais pas où cette réponse est ensuite allée, comme un e-mail transféré ou une feuille de calcul collée. NHI Mgmt Group répertorie « où les données ont été envoyées » parmi quatre questions auxquelles les équipes matures qui exploitent des AI agents sur des systèmes d'entreprise répondent rapidement.

Les flux de travail agentiques en plusieurs étapes aggravent les angles morts. Un agent qui effectue une recherche dans un wiki, interroge un CRM et rédige un e-mail écrit des entrées dans trois systèmes. À moins que quelque chose ne relie ces entrées à une seule tâche, les vérifications de politique peuvent être ignorées à mesure que l'agent passe d'un outil à l'autre, sans que personne ne le remarque.

La dérive de configuration reste invisible. Les entrées de passerelle semblent identiques avant et après un changement d'autorisation dans un système source ou une modification d'une règle de politique. Enregistrer la version de la politique dans chaque entrée montre quelles règles s'appliquaient un jour donné.

Plusieurs référentiels multiplient le travail de cartographie, et de nombreuses équipes de conformité relèvent de plusieurs d'entre eux à la fois. Un même contrôle d'accès peut compter pour SOC 2, le NIST AI Risk Management Framework et la norme ISO/IEC 42001, mais seulement après que quelqu'un l'a cartographié.

Le règlement européen sur l'IA ajoute des obligations de tenue de registres, de supervision humaine et de documentation pour les systèmes d'IA à haut risque. L'annexe III répertorie l'évaluation de la solvabilité des personnes parmi ces usages à haut risque.

Le dépassement silencieux est souvent le plus dommageable des cinq. Un assistant accomplit une tâche en dehors de sa limite prévue, et la passerelle enregistre un succès. NHI Mgmt Group note que la défaillance la plus risquée pour les assistants IA connectés à des systèmes d'entreprise est souvent le dépassement silencieux, car aucune alerte ne se déclenche et la violation n'apparaît qu'après un audit ou une correction de données. Gartner prédit que d'ici 2027, 40 % des entreprises rétrograderont ou mettront hors service des agents autonomes en raison de lacunes de gouvernance découvertes uniquement après des incidents en production.

Comment combler l'écart entre la journalisation et la preuve de conformité

Combler l'écart entre la journalisation et la preuve de conformité nécessite trois choix de conception, chacun effectué avant qu'un système d'IA ne soit mis en service.

Limitez les autorisations de l'IA à la tâche, et non à l'accès complet de l'utilisateur

Le moindre privilège au niveau de la couche d'IA ne donne à un assistant ou à un agent que l'accès requis par une tâche, même lorsque l'utilisateur en possède davantage. NHI Mgmt Group recommande un accès en lecture seule par défaut lorsque les assistants IA connectés aux systèmes d'entreprise effectuent des recherches et des synthèses. Les actions d'écriture ou d'archivage relèvent de flux de travail approuvés séparément.

Les autorisations effectives nécessitent des vérifications aux niveaux de la source de données, du flux de travail et de l'action, et pas seulement à la connexion. Les autorisations limitées aux tâches produisent également des journaux plus défendables, car un auditeur évalue chaque action par rapport à un périmètre précis et documenté. Peu d'équipes en sont là : une étude de Gravitee citée par la Cloud Security Alliance a révélé que seulement 22 % des équipes traitent les agents comme des identités indépendantes.

Les connecteurs comme l'intégration de WorkRamp intègrent le contenu d'un système selon les autorisations propres à ce système. Un flux de travail d'intégration construit sur ce connecteur peut rester limité au matériel de formation.

Concevoir pour la corrélation, pas pour la reconstruction

La corrélation signifie que chaque interaction IA produit un enregistrement lié comprenant cinq parties, capturées dans l'ordre :

1. La demande initiale
2. La vérification des autorisations et son résultat
3. Les sources récupérées
4. Le résultat renvoyé
5. Toute action humaine, telle qu'une approbation et la note du relecteur

Lier ces parties au moment de la capture évite une course effrénée après un incident. NHI Mgmt Group souligne que lorsqu'une plateforme enregistre l'activité du modèle IA et qu'une autre enregistre l'accès aux documents, aucune ne fournit la réponse complète.

Les rapports de conformité deviennent alors une requête à la demande. Une requête telle que « toutes les actions d'agents ayant touché des fichiers confidentiels le trimestre dernier, avec l'approbateur » s'exécute sur un seul jeu de données.

Traiter l'intégrité des journaux comme un contrôle, pas comme une fonctionnalité

L'intégrité des journaux a sa place dans la liste des contrôles, avec un responsable, un calendrier de tests et ses propres preuves. Un stockage qui bloque les modifications et signale les altérations constitue le contrôle lui-même, il nécessite donc le même cycle de révision qu'une recertification des accès. Le guide de gestion des journaux du NIST, SP 800-92, considère la protection des journaux stockés contre toute altération comme une tâche fondamentale de la gestion des journaux.

Les politiques de conservation ont leur place dans le plan de déploiement. Avant que la première demande ne soit journalisée, définissez la conservation sur la période la plus longue exigée par tout cadre réglementaire ou contrat applicable. Les entrées supprimées ne peuvent pas être récupérées pour un audit.

L'exhaustivité doit elle aussi être testée. Faites passer chaque type d'interaction (recherche, chat, action d'agent et appel d'outil) par la passerelle selon un calendrier. Vérifiez que chacun inscrit une entrée comportant tous les champs requis.

Foire aux questions

Les journaux de l'AI Gateway peuvent-ils satisfaire aux exigences d'un audit SOC 2 ?

Les journaux de l'AI Gateway contribuent aux preuves SOC 2 lorsqu'ils capturent les contrôles d'accès, le traitement des données et l'intégrité du traitement selon les Trust Services Criteria. Les journaux seuls ne satisferont pas un auditeur. Vous avez également besoin d'une documentation sur la conception des contrôles et, pour un rapport de Type 2, de la preuve que les contrôles ont fonctionné efficacement tout au long de la période de révision.

Qu'est-ce qui distingue une preuve de conformité d'un simple journal d'activité ?

Une preuve de conformité montre qu'une action était autorisée, tandis qu'un journal d'activité montre seulement qu'elle a eu lieu. La preuve comporte une attribution, un lien avec une politique et l'exhaustivité. Un test rapide consiste à choisir une entrée quelconque et à vérifier si elle nomme la politique ayant autorisé l'action.

Comment les organisations peuvent-elles garantir l'intégrité des journaux de l'AI Gateway ?

Écrivez les journaux dans un stockage en ajout seul, appliquez une protection cryptographique telle que le hachage, et limitez l'accès aux journaux à un sous-ensemble d'utilisateurs privilégiés. Le contrôle AU-9 du NIST SP 800-53 Rev. 5 couvre à la fois la protection cryptographique et l'accès restreint, ce qui empêche les opérateurs du système IA de modifier ou de supprimer les journaux. Exécutez des tests d'exhaustivité selon un calendrier pour chaque type d'interaction.

Peut-on faire confiance aux journaux IA pour des audits réglementaires si le système IA les a lui-même générés ?

Oui, lorsque la journalisation s'exécute au niveau de l'infrastructure, indépendamment de la prise de décision du modèle. La passerelle enregistre ce que le modèle a reçu et renvoyé, de sorte que le modèle n'écrit ni ne modifie jamais sa propre piste d'audit. Un résultat de modèle autodéclaré, tel qu'un résumé de raisonnement, constitue à lui seul une preuve plus faible.

Quelles sont les limites de l'utilisation des journaux IA pour la conformité à plusieurs cadres réglementaires ?

Les journaux IA bruts ne correspondent par défaut à aucun cadre. Sans couche de correspondance et champs standard, chaque révision SOC 2, ISO/IEC 42001 ou EU AI Act se transforme en une mise en correspondance manuelle. Mapper une seule fois chaque contrôle journalisé permet aux mêmes entrées de répondre à plusieurs cadres.

Les journaux de la passerelle résistent à un audit lorsque le contrôle d'accès et son enregistrement proviennent du même système. Nous avons conçu Glean pour appliquer les autorisations pendant la récupération, de sorte que chaque réponse citée et chaque action d'agent remontent à des données que l'utilisateur était autorisé à voir. Demandez une démo pour découvrir comment Glean et l'IA peuvent transformer votre environnement de travail et vous fournir des pistes d'audit que votre équipe de conformité peut vérifier.