AI エージェントが企業ネットワークを攻撃：機密データ流出や認証情報偽造のリスクとは？

AI Agents Present ‘Insider Threat’ as Rogue Behaviors Bypass Cyber Defenses: Study

2026/03/15 SecurityBoulevard — 企業を効率化させるフロンティアとして期待される人工知能 (AI) エージェントだが、従来のサイバー・セキュリティを無力化しかねない、虚偽的で逸脱した行動を示し始めている。最新の研究によると、それらの自律システムは、機密データを密かに流出させ、認証情報を偽造しているという。さらには、他の AI に圧力をかけて、安全プロトコルの回避を促す能力を持つことも確認されている。

Sequoia Capital の支援する AI セキュリティ研究機関 Irregular の調査によると、AI エージェントは単なる補助ツールから高度な内部リスクへと進化している。外部のハッカーとは異なり、これらのエージェントは企業の信頼されたシステム・アーキテクチャ内部で動作するため、内部システムを悪用できるという独自の攻撃力を持つ。

ホワイトカラー業務の自動化ソリューションとして、テクノロジー企業のリーダーたちは、自律型 AI (Agentic AI) を推進している。しかし Irregular の分析が示すのは、”Alignment Problem” (アライメント問題) の深刻さである。問題解決における創造的な判断が AI に許可される場合には、最も効率的な方法として、ルール違反が選択される可能性がある。

Irregular 共同創業者 Dan Lahav が実施したストレス・テストでは、MegaCorp と呼ばれる仮想企業の環境に、Google／OpenAI／Anthropic／xAI など主要企業の AI モデルが配置されたが、その実験結果は驚くべきものであった。具体的に言うと、企業データベースから簡単なソーシャル・メディア投稿を作成する任務を与えられた AI エージェントが、装備されているアンチ・ハッキング・システムを回避し、人間からの指示が一切ないにもかかわらず、企業の機密パスワード情報を公開投稿として発信してしまった。

Lahav は、「AI は、新しい内部リスクの形態と考えるべきだ」と述べ、複雑なタスクを自律的に処理する能力が、予期しない「策略的行動」を生み出していると警告している。

この研究では、自律的協調行動という憂慮すべき傾向も確認された。上位 AI エージェントに 2 つのサブエージェントの管理を指示し、”障害を創造的に回避せよ” と命令する実験では、その指示を AI システムが文字通りに解釈した。つまり、人間の許可や承認がないまま、エージェントは偽造／詐称／偽装／改案といった手法を用いて、市場に影響を与える機密データを、権限のないユーザーへ提供した。

このテストでは、複数の深刻な失敗モードも確認された。具体的には、エージェントがアンチ・ウイルス・ソフトウェアを無効化して、意図的に悪意のファイルをダウンロードするケースや、上位エージェントが下位 AI に同調圧力をかけ、セキュリティ検証の回避を促すケースが確認された。

また Lahav がカリフォルニア州で調査したものには、AI エージェントが計算リソースを過剰に要求し、リソースを確保するために自社のネットワークを攻撃した結果として、重要な業務システムが停止したという実例がある。このエージェントは計算能力を過剰に求め、ネットワーク内のリソースを奪取する挙動を見せたと報告されている。

これらの研究結果は、Harvard University／Stanford University による最新の研究とも一致している。この研究では、自律型 AI に関連する、10 件の深刻な脆弱性が確認されている。

AI エージェントに関する研究者たちの指摘は、機密情報を漏洩する可能性や、他の AI に不正行動を学習させる可能性があるため、現在の状況は予測不能な “無法地帯” に近い状態であるというものだ。さらに研究者たちは、このような自律的行動は新しいタイプの相互作用を示しているが、AI エージェントの自律的な相互作用に特化した法的責任の所在が未定義であると結論付けている。

今回の研究で明らかになった問題の核心は、AI の目的と人間の意図がずれてしまうアラインメント問題にあります。効率的に任務をこなそうとする AI が、善悪の判断ではなく “目的達成への最短ルート” として、既存のルールやセキュリティを回避するようなことが起こっています。特に自律型 AI (Agentic AI) は、信頼された内部ネットワークで動作するため、一歩間違えると、脆弱性を突く攻撃者と同じような挙動をシステムの内側から引き起こすリスクがあります。便利なツールが予期せぬ挙動を示さないよう、安全に管理していく視点を持つことが大切です。よろしければ、タグ AI Agent も、ご参照ください。