OpenAI Astra Model：セキュリティ上の懸念から開発の一部を一時停止

OpenAI Pauses Some Development of Astra Model on Security Concerns

2026/08/11 InfoSecurity — 近日公開予定の Astra について、OpenAI は、そのサイバー能力を Critical と評価した後、いくつかの内部テストを一時停止すると述べた。OpenAI は 8月7日のブログ投稿で、「Astra のテストにより、エージェント型コーディングとサイバー・セキュリティにおける大きな進歩が明らかになった。しかし、当社のリスク管理および安全性ガイドラインである “Preparedness Framework” の条件下で、Critical の能力レベルへの到達を除外できなかった」と述べている。

OpenAI は、「現実世界の多数の堅牢化された重要システムにおいて、あらゆる深刻度のゼロデイ脆弱性を、人間の介入なしに特定／悪用できるようになった場合に、AI モデルはクリティカルなサイバー・セキュリティ閾値に到達したと言える。または、高レベルの望ましい目標だけを与えられた状態で、堅牢化された標的に対するサイバー攻撃のための、エンドツーエンドの新たな攻撃戦略を考案／実行できる場合にも、同じことが言える」と説明している。

OpenAI は、「この新たなモデルにより生じ得る潜在的リスクを緩和するために、保護策とセキュリティ制御の堅牢性を検証するテストを拡大した」と述べており、そこに含まれるのは、隔離されたテスト環境／制限されたネットワークおよびツールへのアクセス／強化されたモデル重みの保護と暗号化／追加の監視および検出機能／サンドボックス化された実行などである。同社は、「これらの強化されたセキュリティ制御要件を、現時点の Astra は満たしていないため、内部テストを一時停止した」と説明している。

さらに OpenAI は、「Astra のエージェント型アプリケーション全体で、高リスクの行動とアラインメントの不全に対する “包括的な監視” を実装した。この監視機能はモデルの思考過程を評価し、高リスクの活動を確認および中断するためのセキュリティ対応を発動させる」と付け加えている。第三者のテスト・パートナーに対しても推奨事項を共有すると、同社は説明している。

制御を離れる AI エージェント

Astra は、Hugging Face への侵害には関与していなかった。このインシデントは、GPT-5.6 Sol と未特定のリリース前モデルが、ゼロデイ脆弱性を悪用してテスト・サンドボックスを脱出した際に発生したものであり、その数日後には、Anthropic の Claude モデルである Opus 4.7／Mythos 5 なども、評価環境からインターネットに接続し、第三者組織を侵害した。

さらに、その直後に英国の AI Security Institute (AISI) が公開したレポートでは、OpenAI と Anthropic のモデルが、テスト中に実在の人々や組織を標的とした、持続的かつ潜在的に有害な活動に関与したことが明らかにされた。

Astra のテストを制限する OpenAI の動きを、ほとんどの専門家が歓迎している。エクスポージャ管理企業 ArmorCode の AI 部門責任者である Matt Sayar は、「組織の環境に存在するサイバー・セキュリティ・ギャップを悪用できるモデルのリリースについて、OpenAI のような大規模研究機関がリスクを考慮しているのは良いことだ」と述べ、モデルのリリースを遅らせることは深刻な事態を緩和する 1 つの方法であるとしたうえで、「しかしユーザー組織にとって必要なことは、重要システムへのパッチ適用と、機械速度で対応できる脆弱性管理プログラムの構築を継続することだ」と付け加えている。

その一方で、Ridge Security Technology の CEO 兼共同創業者である Nick Mo は、オープンソース／オープン・ウェイト・モデルもすでに同様の能力を備えていると述べている。

同氏は、「市場には、きわめて多くの「検閲解除（abliterated）モデル」が存在している。すでに脅威アクターたちは、これらの高度な能力を悪意ある目的に使用している。自主規制と正規顧客だけへのアクセス制限は、サイバー・セキュリティ環境をいっそう困難にするだけである」と指摘している。

Black Hills Information Security のオーナーである John Strand は、フロンティア AI 企業による自主規制だけに依存することはできないとし、「今になって、彼らが開発の速度を落とし、追加の保護策を導入すると述べているのは素晴らしいことなのだろう。しかし、1 年以上も前から、保護策の必要性について私たちに警告してきた彼らが、当事者であることを忘れてはならず、彼ら自身は必要な保護策を実施しなかった」と述べた。

さらに同氏は、こうした状況を踏まえて「何らかの意味ある監督と説明責任が必要である。これらの企業は、その考え方を嫌うだろう。しかし、彼らだけでは正しいことを行えないことを、彼ら自身が何度も繰り返して示してきている」と付け加えている。

高度な AI 技術の急速な進化に伴い、システムを自動で攻撃できる自動化リスクへの懸念が高まっています。OpenAI Astra のような高度な開発ツールが意図せず悪用された場合、人間の介入なしに深刻なセキュリティ上の脅威を引き起こす恐れがあります。保護策の不備による悪影響を防ぐための、隔離されたテスト環境の構築／制限されたネットワーク・アクセスの導入／思考過程の包括的な監視／システムの迅速な脆弱性修正プログラムの適用といった多層的な防御策の導入が推奨されます。専門的な技術知識を深めながら、適切なアクセス制御と安全な運用体制を整備していくことが重要とされます。