AI エージェントに関する調査：65% の回答者が意図された範囲を逸脱する動作を認識

65% of Enterprises Have Seen AI Agents Act Out of Scope

2026/09/01 infosecurity — 意図された範囲を逸脱する AI エージェントの動作が、調査対象となった企業の 65% で発生し、そのうち測定可能な影響が生じたのは 29% であることが明らかにされた。この調査結果は、Enterprise Management Associates (EMA) が Cequence Security のためにまとめた調査レポート “Agents Without Guardrails” によるものであり、企業の技術／セキュリティ部門のリーダー 202 人から得た回答に基づいている。

約 46% の回答者は、複数の部門／本番ワークフローにわたってエージェント型 AI の展開が拡大していると述べ、約 79% は、生成 AI／エージェント型 AI を併用していると述べている。

こうしたインシデントに加えて、回答者の 35.6% は、実質的な被害が生じる前のニアミスを検知していた。また、3.5% にあたる 7 組織は、顧客／パートナーからの報告により、意図された範囲を逸脱した動作を把握しており、外部からの報告がその把握につながるケースが最も多かったと回答している。

エージェントの動作にガバナンスが追いつかない

対応能力が十分ではないことも明らかになった。自動化された仕組みにより、範囲外の動作を数分以内に検知して封じ込められると回答したのは 32.2% に留まる一方、54.5% は対応に数時間を要し、手動での介入を必要としている。さらに 46% 強は、特定のエージェントの過去 30 日間の活動について、完全な監査証跡を容易に作成できないと回答した。

認可と権限管理にも課題があり、実行時にエージェントがその操作の権限を持つかどうかを評価していたのは 34.2% に留まった。それ以外の組織は、恒常的に付与された権限／定期的なレビュー／継承されたアクセス権に依存していた。このレポートは、こうした認可上のギャップを過剰な権限付与と関連付けている。回答者の 94% は、エージェントに必要以上のアクセス権を付与していないことについて、ある程度の自信を持っていたが、実際にエージェントに最小限の権限を付与していたのは 32.7% に留まった。

この調査結果について、EMA のリサーチ担当副社長であり、レポートの著者でもある Christopher M. Steffen は、すでに多くの企業が実験の段階を超えている一方、運用上のガバナンスが導入のペースに追いついていないと指摘している。

同氏は、「ほとんどの組織にはポリシーがあり、それに対して実際に強い自信を持っている。しかし、文書に記載されている内容と、実際に強制されている内容の間に、ギャップが存在する」と述べている。

アイデンティティ／インベントリの不備によりアクセス権が残存

この調査では、試験導入終了後のリスクも明らかになっており、エージェント型 AI の試験導入の約 30% は無期限に停止されるか正式に中止され、停止したケースの 48.5% ではセキュリティ・リスクへの懸念が主要因となっていた。さらに、このレポートによると、認証情報／本番環境へのアクセス権が付与されていたケースでは、その多くにおいて、不要となった認証情報やアクセス権の整理が行われていなかった。

エージェントのアイデンティティ管理にもばらつきがあり、54.5% はすべての AI エージェントに固有のアイデンティティを要求し、その要件を強制していた。その一方で、32.2% は固有のアイデンティティを要求していたが一貫して強制しておらず、さらに 3% はユーザー／サービス・アカウントの認証情報を、エージェントが共有または継承していたと回答した。また、関連する問題としてエージェントの可視性も挙げられる。多くの組織が、本番環境で数十のエージェントを運用しているにもかかわらず、回答者の約 47% は信頼できるエージェントの一覧を保有していなかった。

このレポートが推奨するのは、実行時におけるエージェントの認可の評価／導入規模を拡大する前の自動検知／封じ込め機能の構築／エージェントの廃止などを、セキュリティ上の規律として扱うことである。つまり、認証情報の失効および権限の整理までを、管理していく必要がある。

EMAが Cequence Security のために作成したレポートによると、多くの企業で AIエージェントの想定外の挙動が発生していることが示されています。背景には、実験段階から本番運用への急激なシフトに対し、管理体制や監査の仕組みづくりが間に合っていない現状があります。過剰な権限付与や認証情報の残存により、システム侵害／不正操作／情報漏洩といった被害につながる恐れがあります。対応策として、実行時におけるリアルタイムの認可評価／障害の自動検知と封じ込めの自動化／不要となった権限の速やかなクリーンアップ／一元管理されたインベントリ作成が強く求められます。