スピーカー
ハムザ・シャリフ
Glean のシニア・ソリューション・エンジニア
概要
ほとんどの企業は、情報を要約したりコンテンツを生成したりするツールであるアシスタントの観点からAIセキュリティに取り組んできました。このモデルでは、企業データが漏洩しないように、データアクセスとプライバシーが主な懸念事項となります。
自律的に行動できるAIエージェントの台頭により、リスクプロファイルは、エージェントが見ることができる情報だけでなく、エンタープライズアプリケーションで実行できるアクションにまで拡大しています。
この講演では、GleanのシニアソリューションエンジニアであるHamza Sharifが、データアクセスから権限、オブザーバビリティ、AIセキュリティなど、エージェントのライフサイクル全体を保護するためのフレームワークについて説明します。Hamzaは、ソフトウェア開発のベストプラクティスに基づいて会話を進めることで、エージェントのセキュリティについて明確かつ体系的に推論する方法を提供しています。
今すぐ視聴して次のことを学びましょう。
- 脱獄の試み、プロンプトインジェクション攻撃、不正行為などのリスクを軽減する方法
- ゼロトラストとシフトレフトのソフトウェア設計原則がエージェントにどのように適用されるか
- エージェントガードレールの構築方法 (当初の目標の範囲内で確実に動作するようにする方法)
- データレディネスとガバナンスが安全なAI導入の基礎となる理由
