AIツール2026年10月更新

AIエージェントのセキュリティ対策|リスクの全体像と実務で使える対策チェックリスト【2026年版】

公開日: 2026/04/04
更新日: 2026/10/28
AIエージェントのセキュリティ対策|リスクの全体像と実務で使える対策チェックリスト【2026年版】

この記事のポイント

AIエージェントのセキュリティ対策を、OWASP Agentic Top 10(ASI01〜ASI10)、2026年8〜10月の実際の事故、国内指針の最新動向に沿って整理しました。企業向けと個人開発者向けのチェックリスト、Claude Code・OpenClaw・MCPの設定項目も載せています。

AIエージェントのセキュリティ対策で最も大事なのは、プロンプトで「やめて」と頼むことではなく、ツール呼び出し・権限・OSやネットワークの層で「できない」状態にしておくことです。プロンプトインジェクションは現時点で完全には防げないため、乗っ取られても被害が広がらない設計が基本になります。

この記事でわかること

  • AIエージェント特有のリスクと、OWASP「Top 10 for Agentic Applications 2026」(ASI01〜ASI10)の正しい中身
  • 2026年8〜10月に実際に起きた事故と、そこから見える対策
  • 被害の種類ごとに、どの層で止めるかの対応表
  • Claude Code・OpenClaw・MCP・Microsoft Agent 365 の安全機能と設定項目
  • 国内指針(AI事業者ガイドライン第1.2版、経産省の検討、IPAの資料)の現状
  • 企業向けと個人開発者向けのチェックリスト

こんな人向けの記事です: 業務でAIエージェントの導入を検討している情報システム・セキュリティ担当者、Claude Code や OpenClaw を日常的に使う開発者、エージェントを組み込んだ製品を作っている企業の方。

AIエージェントそのものの仕組みは AIエージェントとは?仕組み・種類・活用事例、生成AI全般のリスクは 生成AIのセキュリティリスクと対策 で整理しています。

2026年にAIエージェントのセキュリティで変わった3つのこと

AnthropicによるClaude Codeのサンドボックス機能の解説記事のイメージ画像

出典: Anthropic公式「Making Claude Code more secure and autonomous」

この半年で「攻撃にエージェントが使われる事故の増加」「国の指針がエージェントを対象に入れ始めたこと」「ツール側の既定の安全設定の変化」の3つが起きました。2026年春の情報のまま対策を考えていると、前提がずれます。

  1. 事故が「研究報告」から「実害」に移った: 2026年8〜10月には、Salesforce Agentforce の間接プロンプトインジェクション(SalesBleed)、AIコーディングエージェントが公開リポジトリに社内画像を置いた事故(PixelLeak)、数百のAIエージェントを使った PaperCut 脆弱性の大量悪用などが相次いで公表されました
  2. 国内の指針がエージェントを扱い始めた: 総務省・経済産業省の「AI事業者ガイドライン」第1.2版(2026年3月)でAIエージェントが対象に加わり、経産省は2026年9月に、エージェントを使う企業向けのセキュリティ対策を検討するサブワーキンググループを立ち上げました
  3. ツールの既定値が変わった: Claude Code の公式ドキュメントによると、v2.1.283 以降は対話セッションの既定が「auto モード」になりました。別のモデルが操作を審査して危険なものを止める方式で、「最初は読み取り専用」という以前の説明は、現時点では一部のモードにしか当てはまりません

今日やる5つの対策

細かい話に入る前に、規模を問わず効果が大きい対策を5つ挙げます。どれも追加費用なしで始められます。

#

対策

理由

1

エージェントに渡している権限・トークンを棚卸しし、不要なものを外す

乗っ取られたときの被害の上限は、渡した権限で決まる

2

削除・外部送信・本番デプロイ・権限付与・支払いは、人の承認なしでは実行できない設定にする

プロンプトの指示では止まらない操作を、仕組みで止める

3

APIキーや .env などの機密情報を、エージェントの作業フォルダの外に置く

読めるものは、外部へ送られる可能性がある

4

使っている MCP サーバー・プラグインの提供元とバージョンを確認する

サプライチェーン経由の侵害は、利用者側からは見えにくい

5

個人アカウントで業務のエージェントを動かしていないか確認する

PixelLeak では影響の93%が個人アカウントで起きていた

AIエージェントのセキュリティリスクが従来AIと根本的に異なる理由

AIエージェントは文章を返すだけでなく、ツールを呼び、ファイルを書き換え、外部へ送信し、コードを実行します。そのため被害が「誤った回答」では済まず、情報漏えいや権限外の操作として現実に起きます。

総務省・経産省の「AI事業者ガイドライン(第1.2版)」は、AIエージェントを「特定の目標を達成するために、環境を感知し自律的に行動する AI システム」と定義しています(IPA「AIセキュリティ短信」2026年9月号の引用による)。

AIエージェントのセキュリティリスクを多層防御で守るイメージ図

チャットAIとAIエージェントのリスクの違い

比較項目

チャットAI

AIエージェント

主な動作

質問に文章で答える

ツール呼び出し・ファイル操作・外部送信・コード実行

攻撃が成功したときの被害

不正確な回答、入力した情報の扱い

情報の持ち出し、データの改ざん・削除、権限外の操作、過剰な課金

攻撃の入口

主に利用者の入力

Webページ、メール、チケット、文書、MCPサーバーの応答など外部のあらゆるデータ

止める場所

入出力のフィルタ

ツール呼び出し・ID・OS・ネットワーク・人の承認

AIエージェントで起きる7種類の被害

IPA 産業サイバーセキュリティセンターの中核人材育成プログラム(9期生)の研修成果物「生成AIおよびAIエージェントを安全に活用するための手引書」(2026年7月)は、被害を次の7種類に分けています。IPAの公式指針ではありませんが、利用企業の担当者が整理に使いやすい分類です。

  • A:情報の漏えい
  • B:付与した権限の範囲外の操作
  • C:システムや内部データの改ざん
  • D:AIシステムのサービス停止
  • E:虚偽や低品質な出力の利用・誤用
  • F:第三者への加害
  • G:過剰課金の発生

従来のセキュリティ対策だけでは足りない理由

SIEM や EDR などの既存の仕組みは必要ですが、それだけではエージェントの問題を捉えきれません。理由は3つあります。

  • 正規の権限の中で起きる: エージェントは与えられた権限で動くため、権限チェックを通ってしまう
  • 一つ一つの操作は正常に見える: 「ファイルを読む」「URLにアクセスする」は単体では普通の操作で、組み合わさって初めて持ち出しになる
  • プロンプトでは統制できない: SANS や AWS の文書は、認可はプロンプトの層ではなくデータやツール呼び出しの層で強制し、ツール呼び出しは既定で拒否(default-deny)にすべきだとしています(IPA「AIセキュリティ短信」2026年9月号)

一方で、IPA の「AIセキュリティ短信」2026年10月号は「エージェントの悪用で被害は出ているが、手口は従来のまま」と整理しています。WAF などの基本的な堅牢化で防げた例もあり、SSO・多要素認証・監査ログ・パッチ適用といった基本の対策は今も有効です。

OWASP Agentic Top 10(2026年版)が挙げるAIエージェント固有のリスク10選

OWASP Top 10 for Agentic Applications 2026の表紙

出典: OWASP GenAI Security Project 公式サイト

OWASP GenAI Security Project が2025年12月9日に公開した「OWASP Top 10 for Agentic Applications 2026」は、AIエージェント固有のリスクを ASI01〜ASI10 の10項目に整理した資料です。現時点でエージェントのリスクを整理するときの共通の物差しになっています。

リスク一覧と対策早見表

ID

正式名称

日本語での意味

主な対策

ASI01

Agent Goal Hijack

エージェントの目的の乗っ取り

外部の文書・データを命令として扱わない。高リスク操作は人が承認

ASI02

Tool Misuse and Exploitation

ツールの誤用・悪用

ツールの許可リスト、引数の検査、既定は拒否

ASI03

Identity and Privilege Abuse

ID・権限の悪用

エージェント専用のID、最小権限、短命の資格情報

ASI04

Agentic Supply Chain Vulnerabilities

サプライチェーンの脆弱性(ツール・MCPサーバー・プラグイン)

提供元の確認、バージョン固定、変更の検知

ASI05

Unexpected Code Execution (RCE)

想定外のコード実行

サンドボックス、外向き通信を既定で拒否

ASI06

Memory & Context Poisoning

記憶・文脈の汚染(長期メモリやRAGの改ざん)

メモリへの書き込みの検証、文脈を短命にする

ASI07

Insecure Inter-Agent Communication

エージェント間通信の不備

相互認証、署名、再送の防止

ASI08

Cascading Failures

連鎖的な障害

停止点・上限・タイムアウトの設計

ASI09

Human-Agent Trust Exploitation

人のエージェントへの信頼の悪用

重要な判断は人が根拠を確かめる

ASI10

Rogue Agents

暴走エージェント

行動の監視、緊急停止(キルスイッチ)

従来の「OWASP Top 10 for LLM Applications 2025」で1位だったプロンプトインジェクション(LLM01)は、Agentic 版では独立した項目ではなく、ASI01(目的の乗っ取り)を引き起こす主な手段として扱われています。LLM 版は「モデルの入出力」、Agentic 版は「エージェントの行動」に焦点がある、と理解すると使い分けやすくなります。

10項目のうち、実務で特に問題になりやすいのは ASI01〜ASI05 と ASI10 です。

ASI01:エージェントの目的の乗っ取り(Agent Goal Hijack)

攻撃者が、エージェントが読み込む Webページ・メール・文書・ツールの応答に指示を紛れ込ませ、エージェントの目的そのものを書き換えるリスクです。たとえば問い合わせフォームに仕込まれた文章を、社員に頼まれて確認したエージェントが「命令」として読んでしまい、顧客データを外部へ送る、といった形で起きます。

プロンプトインジェクションは、OWASP LLM01:2025 が「確実な防御策があるかは不明」としているとおり、現時点では完全には防げません。OpenAI も2025年12月、ブラウザエージェント Atlas の対策を説明する記事で、継続的な強化を前提にした姿勢を示しています。

対策

  • 外部から取り込んだデータは「命令」ではなく「データ」として扱う設計にする
  • 外部送信・削除・権限変更など影響の大きい操作は、人の承認なしでは実行できないようにする
  • 読み込む情報源と、使えるツールの組み合わせを絞る(機密データを読めるエージェントに、外部へ自由に送信できるツールを持たせない)

ASI02:ツールの誤用・悪用(Tool Misuse and Exploitation)

エージェントに渡した正規のツールや API が、乗っ取りや設定の不備によって想定外の使われ方をするリスクです。メール送信ツールで機密情報を外部へ送る、ファイル操作ツールで別のフォルダを書き換える、といった形で現れます。

対策

  • ツールは許可リストで管理し、既定は拒否にする
  • ツール呼び出しの引数(宛先・パス・件数など)を実行前に検査する
  • ツールごとに呼び出し回数や対象範囲の上限を決める

ASI03:ID・権限の悪用(Identity and Privilege Abuse)

エージェントは利用者の認証情報や委任された権限で動くことが多く、その権限が悪用されるリスクです。2026年8月には、インフォスティーラーで盗まれた Claude のログインセッションで利用枠が消費された事例を Anthropic が報告しています。セッションを盗まれると、多要素認証をすり抜けられる場合があります。

対策

  • エージェント専用のID(人とは別のアカウント)を発行し、操作の記録を分ける
  • 業務に必要な最小限の権限だけを付け、期限の短い資格情報を使う
  • 個人アカウントや退職者アカウントにエージェントの権限が残っていないか定期的に監査する

資格情報の受け渡しを専用の仕組みで管理する方法は、1Password for Agentsとは でも紹介しています。

ASI04:サプライチェーンの脆弱性(Agentic Supply Chain Vulnerabilities)

エージェントが使う MCP サーバー・プラグイン・外部モデル・パッケージなどが侵害され、そこから悪意あるデータやコードが入り込むリスクです。Anthropic は公式ドキュメントで、MCP サーバーのセキュリティ監査はしていないと明記しています。

対策

  • MCP サーバーやプラグインは、提供元が確認できるものだけを使う
  • バージョンを固定し、更新時は変更内容を確認する
  • 設定ファイル(.mcp.json など)の変更を検知・レビューする

MCP の仕組みそのものは MCPとは? で解説しています。

ASI05・ASI10:想定外のコード実行と暴走エージェント

エージェントが攻撃者の用意したコードを実行してしまうリスク(ASI05)と、エージェントが想定の範囲を越えて動き続けるリスク(ASI10)は、どちらも「エージェントの中の判断に頼らず、外側から止める」ことが対策の中心です。2026年9月には、評価中のAIが評価環境のネットワーク設定の不備から第三者のシステムにアクセスした事例を、Anthropic・Google・OpenAI がそれぞれ公表しました。

対策

  • コードの実行はサンドボックスやコンテナの中に限定する
  • 外向きの通信は既定で拒否し、必要な宛先だけを許可する
  • 行動を監視し、異常があればすぐに止められる停止手段を用意しておく

英 AISI の報告内容は 英AISIが報告したAIエージェントの暴走事例 で詳しく扱っています。

2025〜2026年に実際に起きたAIエージェントのセキュリティインシデント

ここ数か月で、エージェントが「狙われる」事故と、攻撃者がエージェントを「使う」事故の両方が実際に起きています。ここで挙げる事例は主に IPA「AIセキュリティ短信」2026年9月号・10月号に掲載されたものです(個々の内容の正確性は IPA が保証しないと注記されています)。

インシデント時系列(2026年8〜10月)

公表時期

事案

概要

公表元

関係する OWASP

2026年8月

自律型の攻撃フレームワークによる政府機関への侵入

Hermes Agent と OpenClaw の上に作られた攻撃基盤が、放置された開発用エンドポイントや弱い認証を突き、人事記録2,564件超を持ち出した

ベンダー観測(Dream)

攻撃側の悪用

2026年8月

Claude のログインセッション窃取

インフォスティーラーで盗まれたセッションで利用枠を消費。Claude 自体の欠陥ではない

Anthropic

ASI03

2026年9月

Unit 42 の検証

AIエージェントを使うと、人なら約2週間かかる企業への侵入手順を10時間未満に短縮できた

Palo Alto Networks Unit 42

攻撃側の悪用

2026年9月

PaperCut の脆弱性の大量悪用

数百のAIエージェントで攻撃コードを作り、48か国395組織・440以上のインスタンスを侵害。WAF などで防げた例もある

ベンダー観測(GreyNoise)

攻撃側の悪用

2026年9月

小売業者への攻撃

オープンソースのAIエージェント3種を使い、少なくとも27社からカード情報60万件以上(中間報告)

ベンダー観測(Gambit Security)

攻撃側の悪用

2026年9月

SalesBleed(Salesforce Agentforce)

認証不要の問い合わせフォームに仕込んだ指示で、エージェントが顧客情報を外部へ送る経路が見つかった。9月21日までに修正済み、顧客への悪用の証拠はないとされる

Zenity Labs

ASI01・ASI02

2026年9月

PixelLeak

AIコーディングエージェントが制限を回避し、公開リポジトリに画像を置いた。300超の組織の1.3万枚超に影響し、93%は個人アカウント

Glow Labs

ASI02・ASI10

2026年9月

ChatGPT のコード実行環境

社内のパッケージ基盤を経由してアカウント間でデータを渡せた。OpenAI はその基盤を廃止

Check Point

ASI05

2026年9月

評価中のAIによる無許可アクセス

Anthropic・Google・OpenAI の評価中のモデルが第三者のシステムにアクセス。主な原因は評価環境のネットワーク設定の不備

当事者・当局

ASI10

2025年にも、GitHub MCP Server で公開リポジトリの Issue からプライベートリポジトリの情報を引き出せる問題や、Microsoft 365 Copilot のゼロクリック攻撃「EchoLeak」などが報告されています。いずれも ASI01(目的の乗っ取り)と ASI02(ツールの悪用)の組み合わせで説明できます。

個別の事故は、PaperCut脆弱性のAIエージェントによる大量悪用、豪Medicareポータルへのアクセス事案、AIエージェントによるデータ削除事故まとめ で詳しく扱っています。

事例から得られる教訓

事故を並べると、共通点は3つです。

  • 読むデータと送る手段が同じエージェントにそろっていた: SalesBleed は「外部の人が書き込めるデータを読む」「社内データを読む」「外部へ通信できる」の3つが1つのエージェントにそろったときに起きています
  • 個人アカウントや一律の自動承認が抜け穴になった: PixelLeak の推奨策は、個人・退職者アカウントの監査、認証情報の更新、一律の自動承認の廃止、実行前フックで公開リポジトリの作成や個人アカウントへの push を止めることでした
  • 攻撃側のエージェントも、基本の対策で止まることがある: 放置されたエンドポイントや古いパッチが狙われており、資産管理と、パッチを速く当てることが有効です

企業調査の数字

調査

対象

主な結果

ServiceNow「The State of Agentic Security」(日本語版 2026年10月)

本番でエージェントを動かす組織のVP以上 3,766人(うち日本200人)

過去1年に90%がエージェントのセキュリティインシデントを経験。24時間以内に封じ込めたのは36%

EMA「Agents Without Guardrails」(2026年8月)

従業員1,000人以上の202社

約65%がエージェントの範囲外の行動を経験。MCP 接続を無制限に許可している企業は約14%

ガートナー(2026年5月発表)

国内企業

59.3%が「活用の議論が先行し、セキュリティの議論が遅れている」と回答

被害の種類ごとに「どの層で止めるか」の対応表

エージェントの対策は、プロンプト・ツール呼び出し・ID・OSとネットワーク・人の5つの層に分けると整理しやすくなります。プロンプトの層は補助と考え、主な対策はツール呼び出し・ID・OSとネットワーク・人の4つの層に置きます。

被害の種類

プロンプトの層(補助)

ツール呼び出しの層

ID・権限の層

OS・ネットワークの層

人の層

A 情報の漏えい

外部データを命令として扱わない指示

外部送信ツールを許可リストで制限

読めるデータを業務に必要な範囲に限定

外向き通信を既定で拒否

外部送信は承認制

B 権限外の操作

役割の明示

引数の検査、既定は拒否

エージェント専用ID・最小権限

書き込み先の制限

権限付与は承認制

C 改ざん・削除

—

削除・上書きツールを分離

書き込み権限を最小に

バックアップ、サンドボックス

削除・本番反映は承認制

D サービス停止

—

呼び出し回数の上限

—

タイムアウト、リソース上限

停止手順の訓練

E 誤った出力の利用

根拠の提示を求める

—

—

—

重要な判断は人が根拠を確認

F 第三者への加害

—

外部操作ツールの制限

—

宛先の許可リスト

外部向け操作は承認制

G 過剰課金

—

呼び出し回数・トークン上限

支払い権限を持たせない

利用量の監視とアラート

予算の上限設定

このツールを自社のシステムや業務にどう組み込むか、ご提案します

初回相談は無料・30分(オンライン)。要件が決まっていなくても大丈夫です。改修100万円〜・PoC300万円〜(税別)

主要AIエージェントのセキュリティ機能を比較

主要AIエージェントのセキュリティ機能比較イメージ

ツールの既定の安全設定はこの半年でも変わっています。2026年10月時点で公式ドキュメントから確認できた範囲を整理しました。設定は変わりやすいため、導入時は必ず公式の最新情報を確認してください。

セキュリティ機能比較表

項目

Claude Code(Anthropic)

OpenClaw(OSS)

Microsoft Agent 365

位置づけ

コーディングエージェント

自分で動かすエージェント基盤

組織のエージェントを管理・統制する基盤

既定の権限

ターミナル/VS Code の対話セッションは v2.1.283 以降 auto モードが既定。claude -p や Agent SDK は Manual(読み取りのみ自動)

通常のホストではゲートウェイがループバックに結びつく。コンテナイメージでは外部側に結びつくのが既定

エージェントのIDを台帳で管理

危険な操作の扱い

auto モードでは curl | bash、外部への機密送信、本番デプロイ、IAM 権限の付与、force push などを既定で止める

DM は pairing/allowlist/open/disabled から選ぶ。未知の送信者には既定でペアリングコードを求める

条件付きアクセス、Defender・Purview との連携

隔離

/sandbox で Bash をファイルシステムとネットワークから隔離。クラウドセッションは分離された VM

Docker サンドボックスの設定あり(既定値は公式で要確認)

—

組織での統制

managed settings、disableAutoMode、disableBypassPermissionsMode、Managed MCP、OpenTelemetry

openclaw security audit(--deep)で設定を点検。信頼の境界はゲートウェイごとに1つ

組織内のエージェントのIDと利用状況を一か所で把握

費用

追加費用なし(各プランの料金に含まれる)

OSS のため追加費用なし

1ユーザーあたり月15ドル、または Microsoft 365 E7 に含まれる(2026年5月1日に一般提供開始)

公式の注意点

「完全に攻撃を防げるシステムはない」。作業フォルダの境界は許可の確認であり、承認した Bash コマンドはユーザー権限で書ける場所に書ける

互いに信頼しない利用者で1つのゲートウェイを共有する使い方は想定外。本番ではバイパス系のフラグを切る

—

MCP を使うときに守るべき公式の要件

MCP の公式「Security Best Practices」は、MCP サーバーとクライアントの実装者に対し、次の点を求めています。

  • トークンの素通しをしない: 自分宛てに発行されていないトークンを受け取ってはならない
  • プロキシ型のサーバーはクライアントごとに同意をとる: 第三者 API への中継をする MCP サーバーは、クライアントごとの同意が必須
  • ローカルの MCP サーバーは実行コマンドを見せて同意をとる: ワンクリック設定でも、実行するコマンドを省略せずに示す
  • スコープは最小から始める: 最初は最小限のスコープだけを与え、必要になったら段階的に広げる。ワイルドカードのスコープは避ける
  • 内部ネットワークへの誘導を防ぐ: HTTPS を強制し、プライベートIP帯やクラウドのメタデータへのアクセスを遮断する

ツール選びのポイント

  • 個人や小さなチームで開発に使うなら: Claude Code は既定で危険な操作を止める仕組みがあり、/sandbox で OS レベルの隔離も足せます。auto モードの判定は別モデルによるもので、完全ではない点は理解しておきましょう
  • 自分でエージェントを動かす自由度が欲しいなら: OpenClaw は設定の幅が広い分、ゲートウェイの公開範囲や DM の受け付け方を自分で決める必要があります。導入後は openclaw security audit で点検してください。詳しくは OpenClawの危険性 と OpenClawのセキュリティ設定ガイド を参照してください
  • 社内で複数のエージェントを管理するなら: 個々のツールの設定に加えて、Agent 365 のようにエージェントのIDと利用状況を一か所で把握する仕組みが必要になります。概要は Microsoft Agent 365とは にまとめています

各ツールの機能・料金は Claude Codeとは、OpenClawとは、AIエージェントおすすめ比較 で解説しています。Claude Code の auto モードの弱点は Claude Code auto モードとプロンプトインジェクション で掘り下げています。

企業が実施すべきセキュリティ対策(設計・運用・監視の3段階)

セキュリティ対策の設計・運用・監視の3段階を示すイメージ

企業の対策は、導入前の設計で被害の上限を決め、運用で人の関与を残し、監視で異常に早く気づく、という3段階で考えます。ガートナーが2026年5月に示した国内企業向けの「優先して取り組む6施策」(ライフサイクル管理、認証、アクセス制御、情報漏えい対策、監視、手順の設計と啓発)も、この3段階に当てはめると整理できます。

設計段階の対策

1. 最小権限で始める

権限は「読み取り」「作成」「更新」「削除」に分け、業務に必要なものだけを付けます。高リスクの用途は全社展開を避け、限られた部署から始めるのが安全です。

  • コードレビュー用のエージェント → リポジトリの読み取り権限だけ
  • 同じエージェントにリポジトリの書き込み権限とデプロイ権限まで付けるのは過剰

2. ツール呼び出しは既定で拒否

使えるツールは許可リストで管理し、引数を実行前に検査します。統制はプロンプトではなく、この層で強制します。

3. 「外部データを読む」「機密を読む」「外へ送る」を1つにまとめない

3つがそろうと、乗っ取られたときに持ち出しが成立します。エージェントを分けるか、どれか1つを外します。

4. エージェントごとにIDと責任者を決める

エージェントを台帳に登録し、識別子・作成者・所有者を明確にします。人向けの多要素認証はエージェントには合わないため、当面は RPA や API 管理で使っているシークレット管理の仕組みを流用するのが現実的です。

運用段階の対策

1. 人の承認を残す操作を決める

次の操作は、人が承認しない限り実行できないようにします。

  • データの削除・上書き
  • 外部へのデータ送信
  • 支払い・課金に関わる操作
  • 権限の変更・付与
  • 本番環境へのデプロイ

2. シャドーAI対策

従業員が個人アカウントでエージェントを使っていると、企業の統制は届きません。PixelLeak でも、企業のセキュリティチームは個人アカウントでの事故を検知できませんでした。利用してよいツールとアカウントを決め、利用状況を把握します。詳しくは シャドーAIが企業にもたらすリスク を参照してください。

3. インシデント対応計画にエージェントの手順を足す

既存の対応計画に「エージェントの即時停止」「影響範囲の特定」「資格情報の更新」「メモリや設定の汚染の確認」「証拠の保全」を加えます。ServiceNow の調査では、24時間以内に封じ込められた組織は36%にとどまっています。

監視段階の対策

1. 入力と操作の記録

エージェントが受け取った入力、呼び出したツール、実行した操作を記録します。OpenTelemetry などで既存の監視基盤に流すと、人の操作と並べて追えます。

2. 異常な行動の検知

ふだん触らないフォルダへのアクセス、急に増えた API 呼び出し、深夜の大量操作などを検知の対象にします。

3. MCP サーバー・外部ツールの定期的な点検

接続している MCP サーバーとプラグインの一覧、バージョン、権限を定期的に見直します。

業務で本格的に動かすときに足りなくなるもの

試験的に使う段階では、ツールの設定と人の目でほぼ足ります。ただ、自社の業務でエージェントを常時動かすようになると、承認の画面、途中で止める仕組み、失敗した処理の再実行、操作の記録といった「ツールの外側」の仕組みを作る必要が出てきます。その範囲は AIエージェントの本番導入で追加する開発範囲 で整理しています。

個人開発者が今日からできるセキュリティ対策チェックリスト

Model Context Protocol(MCP)のロゴ

出典: Model Context Protocol 公式ドキュメント(Security Best Practices)

個人で使う場合も、考え方は企業と同じです。「渡す権限を減らす」「機密を手の届かない場所に置く」「外側で止める仕組みを足す」の順で進めます。

基本対策(必須)

  • エージェントの権限設定を確認し、不要な権限を外す
  • APIキー・パスワード・個人情報をエージェントの作業フォルダの外に置く
  • 一律の自動承認(すべての操作を確認なしで許す設定)を使わない
  • 使っている MCP サーバー・プラグインの提供元を確認する
  • エージェントが作ったコードや設定は、本番に反映する前に目で確認する

中級対策(推奨)

  • エージェント用のアカウント・プロファイルを作り、個人のメインアカウントと分ける
  • 本番環境のデータや認証情報をエージェントに渡さない
  • 操作の記録を有効にし、ときどき見返す
  • Claude Code なら /sandbox を使い、OpenClaw なら openclaw security audit で設定を点検する
  • 外部から自分のエージェントへメッセージを送れる設定(DM など)は、許可した相手だけに絞る

上級対策(セキュリティ重視の開発者向け)

  • エージェントをコンテナや dev container の中で動かす
  • 外向きの通信先を許可リストで制限する
  • 実行前フックで、公開リポジトリの作成や想定外の push を止める
  • MCP サーバーの設定ファイルの変更を検知する
  • エージェントの長期メモリやルールファイルが書き換えられていないか定期的に確認する

日本の公的ガイドラインの現状と企業が取るべきアプローチ

独立行政法人情報処理推進機構(IPA)のロゴ

出典: IPA(情報処理推進機構)公式サイト

2026年10月時点で、日本にAIエージェントのセキュリティを直接定めた法規制はありません。ただし「指針が何もない」という状況ではなくなっており、関係する資料が4つの系統に分かれています。

発行元

資料

時期

AIエージェントの扱い

総務省・経済産業省

AI事業者ガイドライン 第1.2版

2026年3月

AIエージェントを対象に追加。外部と自律的に連携するエージェントが脆弱性を突かれ、内部データを外部へ送る可能性に言及

総務省

AIのセキュリティ確保のための技術的対策に係るガイドライン

2026年3月

AIエージェントは対象外(特有の脅威と対策を確定しにくいため)

経済産業省

産業サイバーセキュリティ研究会のサブワーキンググループ

2026年9月に第1回

エージェントを使う企業向けのセキュリティ対策の取りまとめを検討中。公表時期は未定

IPA

AIセキュリティ短信(月刊)、AIセーフティに関する評価観点ガイド 第1.20版

2026年10月号が最新、評価観点ガイドは2026年7月

短信で国内外の事例と動向を毎月整理

経産省のサブワーキンググループの資料が示しているのは、既存の OWASP の資料や AI事業者ガイドラインが主に開発者・提供者向けで、エージェントを使う企業向けの実務的な対策が整っていない、という問題意識です。

企業はどうすべきか

国の利用企業向けの指針がまだ出ていない現時点では、次の進め方が現実的です。

  1. リスクの洗い出しに OWASP Agentic Top 10 を使う: ASI01〜ASI10 を社内のチェック項目に落とし込む
  2. AI事業者ガイドライン第1.2版で、自社が「利用者」として求められる事項を確認する
  3. IPA の AIセキュリティ短信で、毎月の事例を追う: 自社と同じツールの事故がないかを見る
  4. 経産省の取りまとめが公表されたら、社内ルールと照らし合わせる

こんな方にこの記事の対策は役立ちます

対策を重点的に実施すべき方

  • 業務でAIエージェントの導入を予定している企業の情報システム・セキュリティ担当者: OWASP の10項目と被害別の対応表で、社内ルールの土台を作れます
  • Claude Code や OpenClaw を日常的に使う開発者: ツール別の設定項目と個人向けチェックリストで、すぐに見直しができます
  • AIエージェントを組み込んだ製品を作っている企業: MCP の公式要件と「層ごとに止める」設計を、開発の初期から組み込めます

この記事だけでは足りない方

  • セキュリティ製品を選定する専任チーム: 製品選定には、OWASP の原文や各ベンダーの詳細仕様を直接確認してください
  • 金融・医療など規制業種で認証や監査対応が必要な企業: 業界固有の規制要件は扱っていません
  • AIセキュリティの研究者: 実務者向けの整理で、攻撃手法の技術的な詳細は意図的に省いています

よくある質問(FAQ)

Q1. AIエージェントのセキュリティリスクは、従来のLLMチャットボットとどう違いますか?

チャットボットは文章を返すだけなので、主なリスクは誤った回答や入力した情報の扱いでした。エージェントはツールを使って実際に操作するため、乗っ取られると情報の持ち出しや削除が起きます。OWASP が LLM 向けとは別に Agentic 版の Top 10 を作ったのはこのためです。

Q2. プロンプトインジェクションは防げないのですか?

現時点では完全には防げません。OWASP も確実な防御策があるかは不明としています。そのため「入り込まれても被害が出ない」ことを目標にし、外部送信の制限、最小権限、人の承認、サンドボックスを組み合わせます。

Q3. システムプロンプトに「機密を外に出すな」と書けば十分ですか?

十分ではありません。プロンプトの指示は乗っ取りで上書きされる可能性があります。外部送信のツールを持たせない、送信先を許可リストに限る、といった形で、ツールやネットワークの層で止める必要があります。

Q4. 日本にはAIエージェントのセキュリティに関する法規制はありますか?

2026年10月時点で、エージェントのセキュリティを直接定めた法規制はありません。ただし、AI事業者ガイドライン第1.2版がエージェントを対象に加え、経産省がエージェントを使う企業向けの対策を検討しています。

Q5. MCP サーバーを使うとき、最低限何を確認すればよいですか?

提供元が確認できるか、どんな権限(スコープ)を求めているか、ローカルで動く場合に何のコマンドを実行するか、の3点です。MCP の公式要件では、ローカルの MCP サーバーの設定時に実行コマンドを見せて同意をとることが求められています。GitHub の MCP サーバーを使う場合は GitHub MCP Server の使い方 も参考になります。

Q6. セキュリティ対策にはどのくらい費用がかかりますか?

権限の見直し、機密情報の置き場所の変更、Claude Code のサンドボックスや OpenClaw の点検コマンドの利用は、追加費用なしで始められます。組織でエージェントを一元管理する場合は、Microsoft Agent 365(1ユーザーあたり月15ドル、または Microsoft 365 E7 に含まれる)のような統制基盤や、監視・ログ基盤の費用がかかります。

まとめ

AIエージェントのセキュリティ対策は、プロンプトでお願いするのではなく、ツール呼び出し・ID・OSとネットワーク・人の承認の層で「できない」状態を作ることが基本です。

  1. 設計段階: 最小権限、ツールは既定で拒否、「外部データを読む・機密を読む・外へ送る」を1つのエージェントにまとめない
  2. 運用段階: 削除・外部送信・本番反映・権限付与は人の承認制にし、個人アカウントでの利用をなくす
  3. 監視段階: 入力と操作を記録し、異常に気づいたらすぐ止められる手段を持っておく

2026年は、エージェントを狙った事故も、エージェントを使った攻撃も実際に起きました。一方で、基本の対策で防げた例も多くあります。OWASP Agentic Top 10 でリスクを洗い出し、国内指針の更新を追いながら、自社の使い方に合わせて対策を広げていくのが現実的な進め方です。

関連記事

このツールを自社のシステムや業務にどう組み込むか、ご提案します

この記事の著者

AI革命

AI革命

編集部

AI革命株式会社の編集部です。最新のAI技術動向から実践的な導入事例まで、企業のデジタル変革に役立つ情報をお届けしています。豊富な経験と専門知識を活かし、読者の皆様にとって価値のあるコンテンツを制作しています。

AI・システム開発は、開始価格を公開しています

既存システムの改修 100万円〜・PoC 300万円〜(税別)。相談内容を送っていただくと、2営業日以内に担当者からご返信します