Google の GenAI セキュリティ：Gemini で阻止する間接プロンプト・インジェクション攻撃

Google Integrates GenAI to Counter Indirect Prompt Injection Attack Vectors

2025/06/23 gbhackers — Google が公開したのは、巧妙かつも強力な脅威である、間接プロンプト・インジェクション攻撃に対抗するための、徹底的な保護技術に関する情報である。それが示すのは、生成 AI 時代のサイバー・セキュリティにおける大きな進歩である。AI プロンプトに対して、悪意のコマンドを明示的に挿入する直接プロンプト・インジェクションとは異なり、この間接インジェクションとは、メール／ドキュメント／カレンダーなどの、外部データ・ソースに有害な命令を埋め込むものだ。

Google Workspace の Gemini や、Gemini Apps などの生成 AI ツールを、政府／企業／個人が利用するケースが増えているため、こうした隠れ攻撃ベクターへの、速やかな対策の必要性が、かつてないほど高まっている。

新たな AI 脅威に対する防御の強化

Google が構築したのは、綿密な階層型セキュリティ・フレームワークであり、それにより、あらゆるプロンプト・ライフサイクルの段階でユーザーを保護し、この新たな脅威に対抗しようとしている。

具体的に言うと、Gemini 2.5 に統合する、高度なモデル強化機能／悪意のコンテンツ検出ための専用の機械学習モデル／システム・レベルの安全対策となる。Google が目指すのは、攻撃の複雑さとコストを高め、より検出されやすい攻撃手法、あるいは、リソースを大量に消費する攻撃手法を、選ばせることである。

広範な調査と実環境での導入に基づく、この多層防御戦略は、敵対的トレーニングと AI レッドチーム演習を統合し、高度な攻撃を予測／軽減するものとなる。

このアプローチの要となるのは、Google の AI バグ報奨金プログラムを通じて連携する、一流の AI セキュリティ研究者たちと共同で開発した、独自のコンテンツ分類器の使用である。

これらの分類器は、さまざまなデータ形式に埋め込まれた、有害な命令を綿密に除外し、Workspace データとインタラクションの安全性を確保するものだ。

Indirect Prompt Injection Attacks
Gemini’s actions based on the detection of the malicious instructions

たとえば、Gmail メールに隠された悪意のコマンドは識別され、無視されるため、安全なユーザー・エクスペリエンスが提供されるという。

この堅牢なフレームワークを、さらに強化する Google は、セキュリティ思考強化のための技術を実装している。この技術は、ターゲットを絞った指示をプロンプトの周囲に埋め込むことで、LLM の集中力をユーザーの意図したタスクに振り向け、敵対的なコンテンツを無視し続けるようにするものだ。

さらに、Google のセーフ・ブラウジングを活用する、マークダウン・サニタイズと疑わしい URL の削除により、AI のレスポンスから怪しい URL を識別／削除し、悪意のリンクによるデータの漏洩を防止する。

この動作は、ユーザー確認フレームワークにより、つまり、”Human-In-The-Loop” (HITL) システムによって補完される。このシステムは、たとえばカレンダー・イベントの削除などの、潜在的にリスクのある操作に対して、ユーザーの明示的な承認を義務付けることで、不正な操作を阻止するという。

Google のレポートによると、コンテキストに応じたセキュリティ通知が提供され、詳細なヘルプ・センター記事へのリンクを提供することで、ユーザーの意識向上にも重点を置いているという。それによりユーザーは、将来における同様の脅威を、認識して回避できるようになる。

AIセキュリティへの積極的な姿勢

Google の積極的なセキュリティ対策は、長年にわたる AI へのコミットメントを体現するものであり、進化する脅威に先手を打つために、生成 AI の脆弱性に関する膨大なカタログを活用している。

敵対的データ・トレーニングを通じて、Gemini 2.5 モデルにレジリエンスを直接にエンベッドし、動的な緩和戦略で強化することで、いま現在の攻撃ベクターに対処するだけではなく、業界全体における安全な AI 導入の先例を確立する。

間接的なプロンプト・インジェクションは、依然としてデータ流出や不正行為のリスクを抱えているが、コンテンツ・フィルタリング／URL 保護／ユーザー・セントリックな保護策を網羅する Google の多面的なアプローチは、生成 AI の繊細な課題に対する、防御のための先進的な青写真を示している。

この取り組みは、AI による変革の可能性を、セキュリティを意識しながら活用し、デジタル操作の暗流から、ユーザーを保護するための、重要なアプローチとなる。

言われてみれば納得ですが、プロンプト・インジェクションにも直接と間接がありますよね。そして、Google の取り組みは、GenAI 時代に相応しい先進的な防御策だと思えます。Gemini 2.5 に統合された多層的な保護機構は、きわめて実用的という感じです。よろしければ、Google + AI で検索も、ご参照ください。