NVIDIA／Microsoft／CrowdStrike が Open Secure AI Alliance を設立：オープン・モデルと防御強化の推進

NVIDIA, Microsoft, and CrowdStrike Launch Alliance for Open-Source AI Security

2026/07/27 gbhackers — NVIDIA／Microsoft／CrowdStrike は、広範なテクノロジー／サイバーセキュリティ／オープンソース関連組織と協調して Open Secure AI Alliance を立ち上げた。この取り組みは、AI 対応インフラを防御するためのオープンなツール／モデル／エージェント・ハーネス／セキュリティ技術の開発に焦点を当てるものであり、Linux Foundation の Akrites イニシアチブと Open Source Security Foundation (OpenSSF) が築いた基盤の上に構築されている。AI エージェントがエンタープライズ環境や重要インフラ環境へ統合されるにつれて重視される、脆弱性の開示／修正とコミュニティ主導のサイバー防御の強化を目的としている

NVIDIA／Microsoft／CrowdStrike が AI セキュリティを立ち上げ

NVIDIA の取り組みが強調するのは、クラウド・サービス／金融／製造／通信／政府システム／インターネット・インフラなど幅広い分野において、オープンソース・ソフトウェアが基盤となっている点だ。

アライアンスの支持者たちは、オープンな AI モデルやエージェント・ハーネスにより、セキュリティ・チームがシステム挙動の検査／制御のカスタマイズ／ローカル環境への機能展開を実施して、機密データの管理を維持することで、クローズド・システムと同様の防御能力を提供できると主張している。

また、このアライアンスは、独自の最先端モデルを置き換えるものではなく、オープンなシステムを補完的なツールとして位置付けることで、単一ベンダーへの依存を軽減し、インシデント・レスポンスにおける高い柔軟性をユーザー組織に提供できるとしている。

先日に発生した Hugging Face を巡るセキュリティ・インシデントは、この取り組みの運用上の必要性を浮き彫りにした。このインシデントでは、クローズドな AI サービスが正当なフォレンジック活動と悪意ある挙動を区別することに苦慮し、その結果として、対応担当者による調査の有効性が制限されたと報告されている。

これに対し、Hugging Face は、自社インフラ上にオープン・ウェイト版の GLM 5.2 モデルを展開し、17,000 件を超えるアクションを分析することで封じ込め作業を支援している。この事例が示すのは、防御担当者が自らの環境内で、高度なモデルを実行／検証／ファイン・チューニングすることの必要性である。これは、特に機密性の高いテレメトリーや、アクセスが制限されたネットワークを対象とする、時間的制約の厳しい調査において重要である。

アライアンスの初期メンバーとしては、NVIDIA／Microsoft／CrowdStrike／Adobe／Cisco／Cloudflare／Databricks／Dell Technologies／Elastic／HPE／IBM／Linux Foundation／Palo Alto Networks／Red Hat／Salesforce／SAP／ServiceNow／Snowflake／TrendAI などの主要な企業／組織が参加している。このグループは、エージェント・アイデンティティ／分離／セキュアなモデル配布／マルチモデル脆弱性スキャン／セキュアな開発ワークフロー／評価フレームワーク／レッド・チーム・ツールなどを含む、共通の防御スタックの構築に向けて協力する。

さらに NVIDIA は、AI エージェント・ハーネスに関連するオープン・モデル／モデル・ウェイト／データセット／研究成果を提供しており、新たに公開した NVIDIA Labs Object-Oriented Agent (NOOA) Framework は、すでに GitHub で提供されている。このフレームワークの目的は、テスト／追跡／監査／ガバナンスなどの運用／管理において、エージェントの挙動を把握しやすくすることにある。このプロジェクトが強調するのは、AI セキュリティがモデル・ウェイトだけでなく、権限／ID／ログ／ガードレール／オーケストレーション層／継続的な評価まで対象を広げることの必要性である。

他のメンバーによる取り組みも、この包括的なアプローチを反映している。たとえば、HPE が支援するものには、AI エージェントやサービスを暗号学的に検証するための SPIFFE／SPIRE ゼロトラスト ID 標準がある。

その一方で Hugging Face は、リモート・コード実行のリスクを回避するよう設計されたモデル・ウェイト形式 “Safetensors” を提供している。また、IBM と Red Hat は、デジタル署名付きオープンソース・パッチの提供を容易にする “Lightwell” を推進している。Microsoft の MDASH ハーネスは、悪用可能な脆弱性を特定／検討／検証するための、専門化された AI エージェントを連携／調整するものだ。

このアライアンスは、オープン・モデルの悪用や、安全対策を回避するような改変の可能性があることを認めている。しかし、同様のリスクはクローズド・エコシステムにも存在すると指摘しており、こうしたリスクは、防御側から有効なツールへのアクセスを奪うものではなく、堅牢な評価／悪用対策ポリシー／迅速な修正／アイデンティティ管理／透明性の高いセキュリティ・テストを通じて管理すべきものであると主張している。

Open Secure AI Alliance が政策立案者に対して求めるのは、オープン AI セキュリティ・インフラを重要な防御資産として位置付け、共通データセット／攻撃シミュレーター／ベンチマーク／レッド・チーミング・プラットフォームへの投資を支援することである。

訳者後書：今回の記事で扱われている問題の要因は、クローズドな AI (人工知能) サービスにおいて正当な調査活動と悪意のある攻撃行動を正確に区別することが難しく、インシデント発生時の適切な対応が制限されてしまう点にあります。また、特定のベンダーに依存した環境では、システム内部の動作確認やカスタマイズが十分に行えず、機密データを保護しながら検証することが困難になるという問題もあります。AI 技術が広がる中で、アクセス権限やログの確認といった、防御に必要な仕組みの整備が追いつかないリスクも存在します。こうした課題の解決に向けて、自分たちの環境で安全性を直接検証できるオープンなツールの活用が進められています。