Sécuriser les agents IA au travail

La plupart des entreprises ont abordé la sécurité de l'IA sous l'angle des assistants — des outils qui synthétisent des informations ou génèrent du contenu. Dans ce modèle, la principale préoccupation concerne l'accès aux données et la confidentialité, en veillant à ce qu'aucune donnée d'entreprise ne fuite.

Avec l'essor des agents IA capables d'agir de manière autonome, le profil de risque s'élargit et ne concerne plus seulement les informations que les agents peuvent voir, mais aussi les actions qu'ils peuvent effectuer dans les applications d'entreprise. 

Dans cette intervention, Hamza Sharif, Senior Solutions Engineer chez Glean, présente un cadre pour sécuriser l'ensemble du cycle de vie des agents — de l'accès aux données aux autorisations, en passant par l'observabilité, la sécurité IA et bien plus encore. En s'appuyant sur les meilleures pratiques du développement logiciel, Hamza propose une manière claire et structurée d'aborder la sécurité des agents.

Regardez maintenant pour apprendre :

• Comment atténuer les risques tels que les tentatives de jailbreak, les attaques par injection de prompt et les actions non autorisées
• Comment les principes de conception logicielle zero trust et shift left s'appliquent aux agents 
• Comment mettre en place des garde-fous pour les agents afin de garantir qu'ils opèrent dans les limites de l'objectif initial 
• Pourquoi la préparation des données et la gouvernance sont fondamentales pour un déploiement sûr de l'IA