AIエージェントを従業員のように守る
エージェントは労働力のインフラになりつつある
プロンプトインジェクションだけが全体ではありません。AIエージェントがツール、メモリ、自律性を持つようになると、セキュリティはモデルだけでなく、システム全体を対象にする必要があります。
要点
- Agents with tools and memory need access control like employees do.
- Prompt injection is only part of the risk—permissions and data flow matter.
- Keep secrets out of agent prompts; deliver them through controlled channels.
- Log actions and scope credentials tightly for autonomous workflows.
AI業界はこの数年間、プロンプトインジェクションに執着してきました。悪意のあるプロンプトによって、チャットボットが意図しない応答を生成してしまうのではないかという懸念です。
しかし、プロンプトインジェクションはもはや全体像ではありません。
今日のAIシステムは、受動的なアシスタントから自律型エージェントへと急速に進化しています。もはや単に質問に答えるだけではありません。ファイルにアクセスし、メールを解析し、APIを呼び出し、多段階のワークフローを実行し、ユーザーに代わって運用上の意思決定を行います。
そして、AIシステムが行動する能力を得た瞬間、セキュリティのあり方は完全に変わります。
Kimらによる最近のUSENIX Security 2026 論文「SoK: Attack and Defense Landscape of Agentic AI Systems」は、エージェントのセキュリティに関するこれまでで最も包括的な分析の一つを提供しています。研究者たちは 128 本の学術論文をレビューし、51 の攻撃手法と 60 の防御戦略を特定し、自律型AIシステムに新たに生じているセキュリティ課題を理解するためのフレームワークを提案しました。
彼らの中心的な結論は明快です。
AI搭載製品を構築、展開、または利用している組織にとって、これは警鐘として受け止めるべきものです。
AIエージェントが自律性を獲得すればするほど、その攻撃対象領域(アタックサーフェス)は拡大します。
なぜエージェントのセキュリティは異なるのか
従来のソフトウェアは定義済みのロジックに従います。従来のLLMアプリケーションは主にテキストを生成します。エージェント型システムは動作が異なります。
これらは言語モデルを、外部ツール、メモリシステム、データベース、API、および自律的な意思決定能力と組み合わせます。エンタープライズエージェントは、受信メールを読み取り、内部ドキュメントから情報を取得し、CRMにクエリを送り、データベースを更新し、レスポンスを送信するという一連のワークフローを単一のプロセス内で実行できます。
That flexibility is what makes agents so powerful. It's also what makes them difficult to secure.
USENIXの論文は、モデルの安全性だけに焦点を当てるのでは不十分であると主張しています。セキュリティは、モデル、メモリ、ツール、データソース、および実行可能なアクションを含む、エージェントのエコシステム全体にわたって評価されなければなりません。
エージェント・リスクの7つの次元
研究者たちは、エージェントのセキュリティ体制に影響を与える7つの主要な次元を特定しています:
- 入力の信頼性 — 情報はどこから来るのか?
- データアクセスの機密性 — エージェントはどの情報にアクセスできるのか?
- ワークフローの自律性 — 次に何をすべきかを独立して決定できるか?
- アクション能力 — データの修正、削除、または送信ができるか?
- メモリの永続性 — 情報はセッションを越えて保持されるか?
- ツールの利用可能性 — どのような外部システムを呼び出せるか?
- ユーザーインターフェースの影響力 — ユーザーの意思決定に対してどの程度の決定権を持っているか?
カスタマーサポートのチャットボットと、自律的なエグゼクティブ・アシスタントの違いを考えてみてください。
機能が追加されるたびに有用性は高まります。しかし、同時に攻撃対象領域(アタックサーフェス)が拡大し、悪用、操作、または意図しない動作の新たな機会を生み出すことにもなります。
セキュリティは、モデルを保護することから、複雑なシステムをガバナンスすることへと変化しています。
コンテキストこそが新たなセキュリティ境界である
数十年にわたり、サイバーセキュリティは機密性、完全性、可用性の3原則に焦点を当ててきました。これらの原則は依然として不可欠です。
しかし、エージェント型AIは新たな課題、すなわちコンテキスト・セキュリティをもたらします。
エージェントが強力な認証、暗号化された通信、厳格なアクセス制御を備えていたとしても、悪意のある情報や操作された情報に基づいて行動することで、壊滅的な失敗を招く可能性があります。
外部の第三者によってアップロードされた、一見無害な PDF をエージェントが処理している場面を想像してください。ドキュメント内に隠された指示が、エージェントに対して、これまでのガイダンスを無視し、機密情報を取得し、それを別の場所に送信するように命じているのです。
この違いは重要です。なぜなら、台頭しつつある多くのAI攻撃は、ソフトウェアの脆弱性ではなく、情報の流れを悪用するからです。
システムは、盗まれた認証情報によって侵害されたわけではありません。
インフラストラクチャが突破されたわけでもありません。
エージェントは、単に誤ったコンテキストに従っただけなのです。
エージェント型システムにおいて、コンテキストは認証、暗号化、ネットワークセグメンテーションと同様に重要なセキュリティ境界となります。
なぜメモリが新たなリスクを生むのか
AIのメモリは、多くの場合ユーザーエクスペリエンスの機能として提示されます。その論理は単純です。メモリが向上すれば、より優れたパーソナライゼーションが可能になるというものです。
しかし、メモリは「永続性」も生み出します。そして、永続性はリスクを生み出します。
USENIXの論文は、攻撃者が悪意のある指示や誤解を招く情報を用いて、長期メモリ・ストアを汚染(poisoning)しようとする可能性を指摘しています。一度メモリに書き込まれると、その内容は元のやり取りが終了した後も、長期にわたって将来の意思決定に影響を与える可能性があります。
一時的なプロンプトインジェクション攻撃とは異なり、メモリ汚染はワークフロー、ユーザー、そして時間を超えて持続する可能性があります。その結果、根本的に異なるセキュリティ課題が生じます。
メモリはもはや、単なる利便性のための機能ではありません。
メモリはインフラストラクチャです。
そして、インフラストラクチャにはガバナンスが必要です。
最も危険なエージェントとは、権限を持つエージェントである
エージェント型AIにおける最大の懸念は、必ずしもモデルの知能から来るものではありません。それは、モデルに付与された権限から生じるのです。
誤った段落を生成するモデルは、不便なだけです。しかし、顧客記録、内部文書、財務システム、コミュニケーションプラットフォーム、および自動化ツールへのアクセス権を持つエージェントは、現実世界に実害を及ぼす可能性があります。
組織がエージェントをますます強力なシステムに接続するにつれ、焦点はモデルの能力から、運用の制御へと移行しなければなりません。
重要な問いは、もはや「モデルはどれほど賢いか?」ではありません。「モデルは何をすることを許可されているか?」なのです。
信頼できるエージェントシステムの構築
この論文が示すより広範な教訓は、エージェントのセキュリティには多層防御(defense-in-depth)が必要であるということです。
AIエージェントを導入する組織は、以下を優先すべきです:
- 信頼できるデータ vs 信頼できないデータ — 信頼できるデータソースと信頼できないデータソースの強力な分離
- 権限の境界 — エージェントができることに関する明示的な制限
- メモリのガバナンス — 長期メモリシステムに対する制御
- 人間の承認 — 高リスクな操作に対する最終確認
- 監査とオブザーバビリティ — 包括的なロギングとモニタリング
- ツールへのアクセス権限ポリシー — 外部連携のための明確なルール
AIエージェントはソフトウェア機能というよりも従業員に似てきているため、これらの原則は長年確立されてきたサイバーセキュリティの実践方法を反映しています。
より大きな教訓
業界ではAIエージェントを頻繁にデジタル従業員と表現します。その比喩はますます正確なものになりつつあります。
従業員はトレーニングを受けます。従業員はポリシーに基づいて業務を行います。従業員には定義された権限があります。従業員は監視されます。従業員はミスをすることがあります。
AIエージェントも同様です。唯一の違いは、マシンスピードでミスを犯す可能性があることです。
次の10年で最も成功するAI製品は、単に最も有能なモデルを備えているだけではありません。最も強力な信頼アーキテクチャを備えている製品です。
知能はユーザーを引きつけます。
信頼はユーザーを定着させます。
データだけでなく、コンテキストを保護する
PrivateNote.aiでは、コンテキストの保護はデータ自体の保護と同じくらい重要になりつつあると考えています。AIシステムが個人のメモ、ビジネス知識、業務ワークフローにより多くアクセスできるようになるにつれ、セキュリティはストレージや暗号化を超えて、エージェントが消費し、記憶し、実行する情報まで拡張される必要があります。
