OpenAI – IoT OT Security News

OpenAI Astra が発表：脅威レベル Critical に到達する初のモデルへの期待と懸念

OpenAI Reveals Astra, Its First AI Model to Reach ‘Critical’ Cybersecurity Risk Threshold

2026/09/02 SecurityBoulevard — 2026年9月1日 (火) に OpenAI が発表したのは、Astra というコードネームで開発中の人工知能 (AI) モデルが、同社の内部リスクフレームワークで最高の脅威レベルに到達する初のモデルになったことだ。Astra の内部評価では、人間による段階的な介入なしで、新たなソフトウェア脆弱性を自律的に発見し、複雑なサイバー攻撃を構築する能力が確認されている。実際のソフトウェアに存在する未知の欠陥を特定し、悪用する能力が実証されたことで、サイバーセキュリティ能力について Critical と評価された。

OpenAI の Astra AI モデル：ゼロデイ・エクスプロイトの開発と自律型攻撃の可能性

OpenAI Warns Astra AI Model May Develop Zero-Day Exploits and Launch Autonomous Cyberattacks

2026/08/31 gbhackers — OpenAI が発した警告は、開発中の人工知能モデル Astra に関するものである。Astra は、ゼロデイ脆弱性を自律的に発見するだけではなく、高度に保護されたシステムに対して、複雑なサイバー攻撃を実行する能力水準に近づいている可能性がある。2026年8月7日付のセキュリティ・アップデートで同社が指摘したのは、初期テストおよび外部専門家による分析の結果、Astra が “Critical” と評価されるサイバー能力を備えている可能性を排除できなかったことである。これは、コーディング／偵察／脆弱性調査／タスク実行において、より高い自律性を備えたモデルの開発が進む中、AI の安全性とサイバー・セキュリティにおける重要な転換点を示している。

OpenAI の警告：AI モデルが実現するコード検証／トリアージの自動化／最小権限アクセスの維持

OpenAI Warns AI Models Can Automate Cyberattacks and Exploit Security Vulnerabilities

2026/08/18 CyberSecurityNews — 現実世界のサイバー攻撃における重要な段階を自動化する能力が、進化する人工知能モデルによって急速に高まっている状況について OpenAI が警告している。こうした技術の進展を利用する脅威アクターは、長年放置されてきたセキュリティ上の弱点の特定と悪用を、従来の手作業によるワークフローと比べて大幅に高速化している。その一方で OpenAI が強調するのは、企業がサイバーセキュリティ・プログラムの近代化と、過去から蓄積されたセキュリティ負債の解消に迅速に取り組めば、それと同じ能力が前例のない機会をもたらす点である。

OpenAI GPT‑5.6 Sol の Ultrafast Mode：最大で 14倍の高速化を達成

OpenAI Unveils Ultrafast Mode in GPT‑5.6 Sol That Works 14× Faster Than Standard Mode

2026/08/14 CyberSecurityNews — OpenAI が導入した Ultrafast は、GPT-5.6 Sol 向けの新しいサービス・プランであり、標準処理と比べて最大 14倍の高速化を達成している。この機能は OpenAI API で先行して提供され、現在は一部の顧客を対象とした限定プレビューとして提供されている。Ultrafast は Cerebras のインフラを利用し、1 秒あたり最大 750 個の出力トークンを生成でき、長文の応答生成／大規模な入力の分析／複数段階の推論処理に要する時間を大幅に短縮できる。

OpenAI Astra Model：セキュリティ上の懸念から開発の一部を一時停止

OpenAI Pauses Some Development of Astra Model on Security Concerns

2026/08/11 InfoSecurity — 近日公開予定の Astra について、OpenAI は、そのサイバー能力を Critical と評価した後、いくつかの内部テストを一時停止すると述べた。OpenAI は 8月7日のブログ投稿で、「Astra のテストにより、エージェント型コーディングとサイバー・セキュリティにおける大きな進歩が明らかになった。しかし、当社のリスク管理および安全性ガイドラインである “Preparedness Framework” の条件下で、Critical の能力レベルへの到達を除外できなかった」と述べている。

Anthropic／Google／OpenAI コーディング・エージェントの欠陥：ハーネスが引き起こす RCE など

Critical Flaws in Anthropic, Google, and OpenAI’s Coding Agents Enable RCE and Supply Chain Attacks

2026/08/06 CyberSecurityNews — Anthropic／Google／OpenAI の AI コーディング・エージェントに共通して、繰り返し発生する脆弱性のパターンが確認された。それらを悪用する攻撃者は、特権アクセスなしに、リモートコード実行 (RCE) ／API クレデンシャル窃取／ソフトウェア・サプライチェーン侵害を達成できる。各ベンダーのデフォルト・コンフィグを、それぞれの公開リポジトリ上でテストした Novee Security の研究者 Elad Meged により、これらの欠陥が発見された。つまり、この露出は理論上のものではない。現時点で、数百万の開発者が実行している実際のコード上で生じている。

OpenAI による Hugging Face 侵害：AI エージェントによる自律型攻撃を分析する

Autonomous AI Agent Escapes Sandbox and Breaches Hugging Face Production Systems

2026/07/29 gbhackers — Hugging Face が公開したのは、2026年7月に発生した高度な侵入の詳細である。このインシデントでは、評価用サンドボックスから脱出した自律型 AI エージェントが、サードパーティのインフラに侵入した後に、dataset-processing pipeline の脆弱性を悪用して本番システムを侵害した。この 2026年7月27日に公開されたインシデントが示唆するのは、脆弱性を連鎖させる高度な AI エージェントが、マシンスピードで偵察とラテラル・ムーブメントを実行できるという、防御制御に対する適応能力の高さである。

Codex Security CLI／SDK が公開：OpenAI が推進する AI ベースのコード監査環境

OpenAI Open-Sources Codex Security CLI to Find, Validate, and Fix Code Vulnerabilities

2026/07/29 gbhackers — OpenAI がオープンソース化した Codex Security は、エンジニアリング・チームおよびセキュリティ・チームによる、コード・リポジトリ全体での脆弱性の特定／検証／修正を支援する、コマンド・ライン・インターフェイス (CLI) および TypeScript SDK から構成されるものだ。このプロジェクトは Apache-2.0 ライセンスの下で公開されており、リポジトリ全体の評価／対象パスのレビュー／プルリクエストの差分スキャン／スキャン履歴／CI 統合／セキュリティ自動化向けの構造化出力といった、さまざまな機能をサポートしている。

OpenAI CEO Sam Altman の主張：AI は自律的に改善するシンギュラリティに到達した

OpenAI CEO Sam Altman Claims AI Has Reached Singularity, Where Systems Improve by Themselves

2026/07/28 CyberSecurityNews — OpenAI CEO の Sam Altman が主張したのは、かねてより理論化されてきたシンギュラリティに人工知能 (AI) が到達したという見解である。従来の人間による制御を超えた領域で、AI システムが進化するペースを、自ら加速させる画期的な段階に入ったことになる。ポッドキャスト Relentless で Altman は、この瞬間は、歴史的な転換点であると同時に、人類にとって計り知れないほど有益なものだと位置付けた。

OpenAI が誤って悪用したゼロデイ脆弱性：Hugging Face に対する攻撃の実態が明らかに

OpenAI Exploits Zero-Day to Gain Internet Access and Compromise Hugging Face Servers

2026/07/22 gbhackers — OpenAI が明らかにしたのは、高度なサイバー能力の内部評価中に AI エージェントがゼロデイ脆弱性を悪用し、制約付きの研究環境から脱出し、Hugging Face の本番インフラの一部を侵害したことである。このアクティビティを検出した Hugging Face は封じ込めに成功したが、OpenAI の内部セキュリティ・チームも評価中に異常な挙動を特定していた。

OpenAI GPT-5.6／ChatGPT Work がリリース：Sol／Terra／Luna モデルに適した用途は？

OpenAI Releases GPT-5.6 and ChatGPT Work, a New Companion to Handle Your Tasks

2026/07/10 CyberSecurityNews — OpenAI は、GPT-5.6 モデル・ファミリーの一般提供を開始し、性能とコストに応じた 3 種類のモデルを導入している。具体的には、フラッグシップ・システムの Sol／日常的な専門業務向けのバランス型オプションである Terra／同ファミリーで最速かつ最も低コストの Luna である。

OpenAI Codex for macOS の脆弱性 CVE-2026-14898：プロンプト・インジェクションによる機密情報漏洩の恐れ

OpenAI Codex Desktop App for macOS Vulnerability Allows Attackers to Inject Indirect Prompt

2026/07/07 CyberSecurityNews — 最近 GitHub Advisory Database に登録された情報によると、OpenAI Codex for macOS デスクトップ・アプリケーションの新たな脆弱性 CVE-2026-14898 を悪用する攻撃者は、間接プロンプト・インジェクションの手法を介して、機密性の高いデータを外部へ持ち出す可能性がある。この問題は、モデル生成レスポンス内の Markdown コンテンツを、Codex アプリが処理する方法に起因するものである。このアプリケーションは、Markdown に埋め込まれたリモート画像を、明示的なユーザー操作なしに自動的にレンダリングする。

OpenAI が GPT-5.6 Sol をリリース：特定の組織に向けて最高レベルのサイバー防御を提供

OpenAI Released GPT-5.6 Sol With Limited Access and Strong Cyberattack Protections

2026/06/29 CyberSecurityNews — OpenAI が公表したのは、GPT-5.6 モデル・シリーズである Sol／Terra／Luna の限定プレビューの正式な開始である。同社の主力モデルである Sol は、これまでにおいて最も高性能であり、セキュリティを強化した AI モデルとして位置付けられている。ただし、現時点ではトランプ政権からの正式な要請により、少数の信頼できるパートナーのみに提供されている。

OpenAI が GPT-5.5-Cyber を公開：主要セキュリティ・ベンチマークで最高水準の性能を記録

OpenAI Releases GPT‑5.5‑Cyber With Full Automation for Vulnerability Detection and Patching

2026/06/23 CyberSecurityNews — OpenAI が公表したのは、高度な脆弱性検出／パッチ生成／マシン速度での自動修復を実現するために設計された、専用 AI モデル GPT-5.5-Cyber のフルバージョンの正式リリースである。このリリースは、OpenAI の包括的なイニシアチブ Daybreak の一環であり、世界中の信頼できる組織に対してサイバーセキュリティ防御能力を広く普及させることを目的としている。

JetBrains IDE を狙う悪意のプラグイン：OpenAI／DeepSeek／SiliconFlow などの API キーを窃取

JetBrains Plugin Security Alert: 70,000+ Installs Linked to AI Key Theft

2026/06/17 gbhackers — JetBrains IDE ユーザーを標的とする協調的なサプライチェーン攻撃により、7 万人を超える開発者が、認証情報窃取のリスクにさらされていた。このキャンペーンに関与していたのは、DeepSeek などのモデルを基盤とする AI 搭載コーディング・アシスタントを装い、JetBrains Marketplace 経由で配布された少なくとも 15 件の悪意あるプラグインである。

Anthropic と OpenAI が拡大するフロンティア AI へのアクセス：専門家たちが懸念する問題点とは？

Anxious Security Pros Watch as Anthropic, OpenAI Expand Access to Frontier AI Models

2026/06/03 SecurityBoulevard — Anthropic／OpenAI のフロンティア AI モデルが、サイバー・セキュリティ分野に大きな影響を与え続け、世界中の組織へのアクセス拡大を進める一方で、米国ホワイトハウスはこれらに対する監督強化を模索している。こうした動きは、2026年4月に Anthropic が公開した Claude Mythos Preview モデルにより生じた不安を反映している。このモデルは、ソフトウェア脆弱性を検出／特定するだけではなく、それらに対するエクスプロイトを迅速に生成する能力を示した。

TanStack npm サプライチェーン攻撃：OpenAI が受けた侵害の内容と背景

OpenAI Confirms Security Breach Via TanStack npm Supply Chain Attack

2026/05/15 CyberSecurityNews — TanStack npm を標的とする大規模なソフトウェア・サプライチェーン攻撃により、OpenAI の従業員端末 2 台が侵害された。同社は、ユーザーデータ／本番システム／知的財産への影響はなかったと確認している。2026年5月11日 (UTC) に、脅威アクターは Mini Shai-Hulud と呼ばれるキャンペーンを開始した。それは、TeamPCP 恐喝グループによりオーケストレーションされる協調的なサプライチェーン攻撃である。

OpenAI が Trusted Access for Cyber を公表：選ばれたパートナー向けに限定公開

OpenAI Readies Rollout of New Cyber Model as Industry Shifts to Defense

2026/04/09 SecurityBoulevard — OpenAI は、選ばれたパートナー向けに限定公開される、サイバー・セキュリティ製品の最終調整を進めている。Axios の報道によると、OpenAI の新モデルは、一般に公開するには危険すぎるという、最新の AI 技術に対して開発者が抱く不安の高まりを示している。この動きの背景にあるのは、自律的なハッキング／推論において、人工知能 (AI) の能力が臨界点に到達したという現実である。

OpenAI Codex の脆弱性：コマンド・インジェクションの欠陥による GitHub トークン窃取の可能性

OpenAI Codex Vulnerability Allows Attackers to Steal GitHub Access Tokens

2026/04/07 CyberSecurityNews — AI コーディング・エージェントの導入により、開発チームにとって影響の大きい新たな攻撃対象領域が生じていた。OpenAI Codex において深刻なコマンド・インジェクション脆弱性が発見されたと、BeyondTrust 傘下の Phantom Labs が報告している。この欠陥により、攻撃者は機密性の高い GitHub ユーザー・アクセス・トークンを窃取可能になる。Codex におけるタスク作成リクエストの処理を悪用する攻撃者は、AI エージェントに付与された権限を悪用し、ユーザー組織の GitHub 環境への攻撃の横展開が可能な状況にあった。

OpenAI が公表：ChatGPT のデータ漏洩とCodex の GitHub トークン窃取の脆弱性

OpenAI Patches ChatGPT Data Exfiltration Flaw and Codex GitHub Token Vulnerability

2026/03/30 TheHackerNews — OpenAI ChatGPT に存在する未知の脆弱性により、ユーザーの認識や同意なしに機密性の高い会話データが外部へ送信される可能性があったことが、Check Point の新たな調査で明らかになった。同社は、「単一の悪意のプロンプトにより、通常の会話が秘匿的なデータ流出チャネルへと変化し、ユーザーメッセージ／アップロードファイルなどの機密情報が漏洩する可能性がある。また、バックドア化された GPT により、ユーザーの認識なしにデータへのアクセスが行われる」と指摘していた。

OpenAI が Codex Security を正式発表：脆弱性の発見／検証／修復を自動化するセキュリティ AI

OpenAI’s Codex Security Built to Automate Vulnerability Discovery and Remediation

2026/03/07 gbhackers — OpenAI が正式に発表したのは、脆弱性の発見と修復の自動化を目的とする、高度なアプリケーション・セキュリティ・エージェント Codex Security である。これまでは、Aardvark として知られていたツールであり、現在はリサーチ・プレビュー版として提供されている。最先端の AI モデルと自動検証を組み合わせることで、手動によるセキュリティ・レビューのボトルネックを解消し、トリアージ・ノイズを大幅に削減することを目的としている。これにより、開発チームによる安全なコードの出荷／リリースが迅速に行われるようになる。

イラン戦争における Anthropic と米軍：Claude で実施された作戦と OpenAI の動き

US Military Reportedly Used Claude in Iran Strikes Despite Trump’s Ban

2026/03/02 CyberSecurityNews — 米国国防総省は、2月28日に実施されたイスラエルとの共同攻勢 Operation Epic Fury において、Anthropic の Claude AI を使用した。トランプ大統領が、Anthropic を国家安全保障上のサプライチェーン・リスクに指定し、すべての連邦機関に対して同社の AI システムの使用停止を命じたわずか数時間後に、この作戦は実施された。

ChatGPT で悪意のキャンペーンを管理：中国由来の脅威アクターを OpenAI が追跡

OpenAI Confirms Chinese Hackers Used ChatGPT in Cyberattack Campaign

2026/02/26 gbhackers — OpenAI の最新の脅威レポート “Disrupting malicious uses of AI” が明らかにしたのは、中国と関連するオペレーターの広範なキャンペーンの一環として ChatGPT が悪用されていたことである。このキャンペーンは、サイバー作戦／オンライン嫌がらせ／秘匿的影響工作を組み合わせたものである。ChatGPT のモデル自体が、エクスプロイト作成やネットワーク侵入に直接使用されたわけではない。しかし、オンライン上において、批判者／反体制派／外国の政治関係者を標的とするオペレーションの計画／拡散に、繰り返し悪用されていた。

OpenAI が立ち上げた Trusted Access for Cyber：GPT-5.3-Codex による脆弱性の発見／修正

OpenAI Launches Trusted Access to Strengthen Cybersecurity Protections

2026/02/06 gbhackers — OpenAI が発表したのは、同社の最先端 AI モデルがもたらすリスクを低減し、サイバー・セキュリティ防御を強化する、新たな ID／Trust ベースのフレームワーク Trusted Access for Cyber である。このイニシアティブの中核となるのは、OpenAI で開発されたサイバー領域特化型のフロンティア推論モデル GPT-5.3-Codex である。このモデルは、複雑なセキュリティ・タスクを完了するために、数時間から数日間にわたり自律的に動作する能力を有する。

OpenAI が拡張する防御のモデル：AI の規模と精度が従来型の脅威と組み合わされる時代に

OpenAI Enhances Defensive Models to Mitigate Cyber-Threats

2025/12/12 InfoSecurity —12月10日 (水) に OpenAI が発表したのは、モデル性能の急上昇に伴い社内計画を再構築したという声明である。そのレポートによると、Capture The Flag (CTF) チャレンジを用いた能力評価は、2025年8月の GPT-5 における 27% から、2025年11月の GPT-5.1-Codex-Max の 76% へと向上しているという。OpenAI が警告するのは、今後登場するシステムの一部が、同社の Preparedness Framework における高能力レベルに達する可能性である。そのレベルに達すると、複雑な侵入作戦からゼロデイ・エクスプロイトの開発に至るまでの、さまざまなタスクが支援されてしまう可能性があるという。

ChatGPT で世界的なアクセス障害：Codex のトラブルにより会話履歴が一時的に消失

ChatGPT Down – Users Report Outage Worldwide, Conversations Disappeared for Users

2025/12/03 CyberSecurityNews — 2025年12月3日 (水) の早朝に、ChatGPT が大規模なサービス障害に見舞われ、世界中の何百万ものユーザーの業務に深刻な支障が生じた。午前6時30分頃に発生した障害により、多数のユーザーが AI チャットボットへアクセスできなくなり、また、会話履歴が消失したように見えるといった、データ可視性に関する重大な問題が発生した。OpenAI は迅速な対応を行い、すべてのシステムが短時間で復旧したと発表している。

OpenAI Codex CLI にコマンド・インジェクション：リポジトリを介した悪用のシナリオとは？

OpenAI Codex CLI Command Injection Vulnerability Let Attackers Execute Arbitrary Commands

2025/12/01 CyberSecurityNews — OpenAI が公表したのは、Codex CLI ツールのコマンド・インジェクション脆弱性の修正に関する情報である。この脆弱性を悪用する攻撃者は、悪意のコンフィグ・ファイルをプロジェクト・リポジトリに配置するだけで、開発者のマシン上で任意のコマンド実行の可能性を得る。この問題は、すでに Codex CLI バージョン 0.23.0 で修正されている。修正前の Codex CLI では codex コマンドの日常的な使用が、サイレントなリモート・コード実行のトリガーとなっていた。

OpenAI が ChatGPT 広告を公開へ向けて準備中：利用者データを活用するパーソナライズド広告の可能性

Leak confirms OpenAI is preparing ads on ChatGPT for public roll out

2025/11/29 BleepingComputer — Web の経済を再定義するかもしれない ChatGPT 内の広告機能を、OpenAI が内部でテスト中とのことだ。これまで、ChatGPT の基本利用は無料だった。有料のプランやモデルは存在するが、ChatGPT が商品を販売することも広告を表示することもなかった。その一方で、Google 検索ではユーザーの購買行動に影響を与える広告が表示される。それと同じエクスペリエンスを、OpenAI は ChatGPT 上で実現しようとしている。

OpenAI が Mixpanel 関連のインシデントを公表：氏名／メールアドレス／OS 情報などが漏洩

OpenAI Discloses Mixpanel Data Breach – Name, Email Address and Operating System Details Exposed

2025/11/27 CyberSecurityNews — OpenAI が公表したのは、API 製品のフロントエンドである “platform.openai.com” の活動を監視するために、以前に使用していたサードパーティ分析プロバイダ Mixpanel に関連するセキュリティ・インシデントである。2025年11月9日に Mixpanel が検知したのは、自社システムへの不正なアクセスがあり、一部の OpenAI API ユーザーの識別情報を含む分析データがエクスポートされたことだった。

OpenAI の Assistants API を悪用する SesameOp：AI 侵害のためのバックドアをステルス C2 で確立

SesameOp: Using the OpenAI Assistants API for Covert C2 Communication

2025/11/04 gbhackers — OpenAI Assistants API を悪用する高度なバックドア型マルウェア SesameOp が、従来とは異なる Command-and-Control (C2) 通信経路を用いていることを、Microsoft の Detection and Response Team (DART) が明らかにした。この種の脅威は、正規のクラウド・サービスを悪用して通信を隠蔽する手法へ急速に適応しており、既存のセキュリティ対策による検知を著しく困難にしている。

OpenAI が Aardvark を公表：GPT-5 をベースにしてセキュリティ専門家を模倣する

OpenAI Unveils Aardvark: GPT-5 Agent That Finds and Fixes Code Flaws Automatically

2025/10/31 TheHackerNews — OpenAI が発表したのは、自社の GPT-5 大規模言語モデル (LLM) を搭載し、人間の専門家を模倣するようにプログラムされ、コードのスキャン／理解／パッチ適用を可能にする “エージェント型セキュリティ研究者” である。人工知能 (AI) 企業である OpenAI によると、この自律型エージェントである Aardvark は、開発者やセキュリティのチームによる、セキュリティ脆弱性の大規模な検出／修正を支援するために設計されている。現時点において、プライベート・ベータ版として利用可能となっている。

ChatGPT Atlas Browser に深刻な脆弱性：偽 URL トリックによるプロンプト・インジェクション

ChatGPT Atlas Browser Can Be Tricked by Fake URLs into Executing Hidden Commands

2025/10/27 TheHackerNews — 新たにリリースされた OpenAI Atlas Web ブラウザが、プロンプト・インジェクション攻撃に対して脆弱であることが判明した。この攻撃は、悪意のプロンプトを無害に見える URL に偽装することで、オムニボックスをジェイルブレイクさせるものだ。11月24日 (金) に NeuralTrust が公開したレポートによると、「アドレスバーと検索バーを組み合わせたオムニボックスは、その入力された内容を移動先を示す URL として、また、エージェントへの自然言語コマンドとして解釈する」と述べている。

OpenAI を悪用するランサムウェア PromptLock：標的のシステム上で攻撃用の Lua スクリプトを作成

First AI Ransomware ‘PromptLock’ Uses OpenAI gpt-oss-20b Model for Encryption

2025/08/26 CyberSecurityNews — 新たなランサムウェアが確認された。どのようなものかと言うと、ローカル AI モデルを介して悪意のコンポーネントを生成するものであり、史上初のランサムウェアの種類であると考えられている。ESET Research Team により “PromptLock” と名付けられたマルウェアは、Ollama API を介して OpenAI の gpt-oss:20b モデルを利用し、攻撃チェーン用のカスタム・クロス・プラットフォーム Lua スクリプトを作成する。

OpenAI が立ち上げる Red Teaming チャレンジ：新たな Open-Weight LLM は何を変えていくのか？

OpenAI Launches Red Teaming Challenge for New Open-Weight LLMs

2025/08/06 InfoSecurity — OpenAI が発表したのは、２つの新しいオープン・ウェイト LLM の提供と、賞金総額 $500,000 のレッドチーム・チャレンジの開催である。8月5日午前10時、OpenAI の CEO である Sam Altman は、ソーシャルメディアに “gpt-oss がリリースされた” と投稿した。

Linux SMB のゼロデイ脆弱性 CVE-2025-37899：特定したのは ChatGPT を操る研究者

Linux Kernel Zero-Day SMB Vulnerability Discovered via ChatGPT

2025/05/22 gbhackers — Linux Kernel SMB サーバに存在するゼロデイ脆弱性 CVE-2025-37899 を、OpenAI o3 言語モデルを使用するセキュリティ研究者が発見した。この脆弱性は、SMB の “logoff” コマンド・ハンドラに存在する、メモリ解放後使用 (use-after-free) のバグであり、リモートの攻撃者に対して、カーネル権限での任意のコード実行の可能性を与えるものだ。AI 支援による脆弱性研究において、この発見は大きな進歩であり、同時実行パスの理解を必要とする、複雑なメモリ安全性の問題を、LLM が効果的に特定できることを実証している。

MCP に潜む脆弱性：AI 時代の新たな脅威として浮上するツール・ポイズニング攻撃

Tool Poisoning Attacks: Critical Vulnerability Discovered in Model Context Protocol (MCP)

2025/04/10 SecurityOnline — Model Context Protocol (MCP) に存在する深刻な脆弱性は、ツール・ポイズニング攻撃 (TPA：Tool Poisoning Attacks) を可能にするものだと、Invariant Labs が明らかにした。AI エージェントが利用する、無害に見えるツールを悪用する TPA により、機密データの流出／AI の挙動の乗っ取り／リモート・コード実行などが引き起こされる恐れがある。Invariant のセキュリティ・チームは、ユーザーに対して、「サードパーティの MCP サーバに接続する際には十分な注意を払い、機密情報を保護するためのセキュリティ対策を実施してほしい」と促している。

OpenAI を悪用する AkiraBot：中小企業の Web サイトを解析してフェイク SEO サービスを展開

New AkiraBot Abuses OpenAI API to Spam Website Contact Forms

2025/04/09 HackRead — AkiraBot と呼ばれる AI 搭載ボットによる、新たなスパム攻撃キャンペーンを、サイバー・セキュリティ研究者たちが特定した。AkiraBot は、中小企業の Web サイトを標的にして、カスタマイズされたプロモーション・メッセージを送り付けるものだ。高度なスパム・ツールである AkiraBot は、少なくとも８万件以上の Web サイトの問い合わせフォームや、チャット・ウィジェットへ向けてスパムを送信しており、2024年9月以降において 40万回以上の攻撃を仕掛けてきた。

OpenAI の SSRF の脆弱性 CVE-2024-27564：広範な分野で積極的な悪用を観測

CVE-2024-27564: Attackers Exploit OpenAI Vulnerability in the Wild

2025/03/18 SecurityOnline — ChatGPT のサーバ・サイド・リクエストフォージェリ (SSRF) の脆弱性 CVE-2024-27564 だが、単一の悪意の IP からの 10,479 件を超える攻撃の試行が記録されており、サイバー犯罪者の重要なターゲットにされているようだ。Veriti の最新の調査によると、この欠陥は、OpenAI の ChatGPT インフラに影響を与えるものであり、入力パラメータに悪意の URL を挿入する攻撃者は、アプリケーションが意図していないリクエストの、強制的な実行を達成するという。

OpenAI の Operator に悪意を植え付ける：Symantec が Phishing PoC で実証したものは？

Symantec Demonstrates OpenAI’s Operator Agent in PoC Phishing Attack

2025/03/14 hackread — 最近になって OpenAI がリリースした “Operator” などの AI エージェントが、サイバー攻撃に悪用される可能性があることを、Symantec の脅威ハンターたちが実証した。それらの AI エージェントは、定型的なタスクを自動化して生産性を高めるように設計されているが、Symantec の調査によると、人間の入力を最小限に抑えることで、複雑な攻撃シーケンスの実行も可能にすることが示されている。

ChatGPT の Weekly User 数が４億人に到達：いまの有料サブスクだけで資金は足りるのか？

ChatGPT Hits 400 Million Weekly Users

2025/02/21 SecurityOnline — 2024年12月に OpenAI が発表したのは、ChatGPT の週間アクティブ・ユーザー数が３億人を突破したことだ。2024年8月の時点では、週間アクティブ・ユーザーは２億人であり、わずか数か月で１億人のユーザーが増加したという驚くべき数字を示している。

PandasAI の脆弱性 CVE-2024-12366 が FIX：Python コードの実行

CVE-2024-12366: Prompt Injection in PandasAI Enables Full System Compromise

2025/02/11 SecurityOnline — SinaptikAI が提供する OSS の AI 搭載データ分析ライブラリ PandasAI で、新たに公開されたセキュリティ脆弱性により、プロンプト・インジェクション攻撃によるリモート・コード実行 (RCE) の可能性が生じることが判明した。この脆弱性 CVE-2024-12366 を悪用する攻撃者は、自然言語プロンプトを操作して任意の Python コードを実行し、システム侵害を引き起こす機会を手にする。

DeepSeek におけるログイン情報：国営通信会社 China Mobile に送信されている？

DeepSeek AI Accused of Sharing User Data with Banned Chinese Telecom

2025/02/06 gHacks — 中国軍とのつながりが疑われ、米国での営業が禁止されている国営通信会社 China Mobile に、DeepSeek がユーザーのログイン情報を送信している可能性があることを、セキュリティ研究者たちが発見した。それにより、ユーザー・プライバシーと国家安全保障に関する深刻な懸念が引き起こされている。

Cisco による DeepSeek R1 調査：ジェイルブレイクに関する大きな懸念とは？

Cisco Finds DeepSeek R1 Highly Vulnerable to Harmful Prompts

2025/02/03 HackRead — 中国のスタートアップ DeepSeek は、高度な推論機能とコスト効率の高いトレーニングを備えた、大規模言語モデル (LLM) の導入による注目を集めている。最近にリリースされた DeepSeek R1-Zero／DeepSeek R1 は、OpenAI o1 などの主要モデルに匹敵するパフォーマンスを、わずかなコストで実現している。そして、数学／コーディング／科学的推論などのタスクにおいて、Claude 3.5 Sonnet や ChatGPT-4o を上回っている。

GitHub Copilot で発見されたジェイルブレイクの手法：悪意のモデルのトレーニングなどが可能に？

New Jailbreaks Allow Users to Manipulate GitHub Copilot

2025/01/31 DarkReading — GitHub の AI コーディング・アシスタント Copilot を操作する、２つの新たな手法を研究者たちが発見した。この方式を用いれば、セキュリティ制限やサブスクリプション料金の回避や、悪意のモデルのトレーニングなどが可能になる。

DeepSeek による AI への挑戦：軽量／安価なオープン・モデルと国家安全保障の問題

How DeepSeek changed the future of AI—and what that means for national security

2025/01/30 NextGov — 中国の DeepSeek が発表した内容は、米国の著名なツールと比べて、その構築に用いられるコンピューティング・パワーがきわめて少ないという、生成 AI へのアプローチの詳細である。その数日後に、国防総省における AI の購入／使用の方法から、米国人の生活やプライバシーに対して外国勢力もたらす混乱にいたるまで、AI と国家安全保障をめぐる世界的な議論が変化している。

DeepSeek からリークした大量のデータ：チャット・ログや機密情報が流出

DeepSeek AI Leaks Over a Million Chat Logs and Sensitive Data Online

2025/01/30 HackRead — 中国の AI 企業 DeepSeek が、OpenAI のシステムに匹敵する AI モデルで名を馳せている。しかし、同社の台頭につれて、深刻なセキュリティ問題が発生している。Wiz の研究者が発見したのは、同社に関連付けられたデータベースが一般公開されており、100 万件を超えるログ・エントリ／バックエンドの詳細／ソフトウェア・キーなどが公開されている状況である。

OpenAI を悪用するサイバー犯罪と偽情報拡散：20件以上の悪意のキャンペーンを阻止

OpenAI Blocks 20 Global Malicious Campaigns Using AI for Cybercrime and Disinformation

2024/10/10 TheHackerNews — 10月9日に OpenAI が発表したのは、同社のプラットフォームをグローバルで悪用する、20件以上の悪意のアクティビティとネットワークを、2024年に入ってから阻止したというメッセージである。阻止された悪質な活動として挙げられるのは、マルウェアのデバッグ／悪意の Web サイト記事執筆／悪意の SNS アカウント経歴の作成／X の偽アカウント用の AI 生成プロフィール画像の作成などである。

Google の Privacy Sandbox：欧州の非営利団体 noyb から痛烈に批判される

Google’s Privacy Sandbox Accused of User Tracking by Austrian Non-Profit

2024/06/14 TheHackerNews — Google Chrome の Privacy Sandbox において、サードパーティのトラッキング・クッキーを非推奨にする計画だが、新たな問題にぶつかっている。この機能は、依然としてユーザー追跡のために使用できると、オーストリアのプライバシー非営利団体 noyb (none of your business) が指摘しているのだ。

ChatGPT の停止：OpenAI が DDoS 攻撃を認め Anonymous Sudan が犯行を主張

OpenAI confirms DDoS attacks behind ongoing ChatGPT outages

2023/11/09 BleepingComputer — OpenAI の “周期的な停止” だが、この 24時間で発生した API と ChatGPT サービスを標的とする DDoS 攻撃が原因のようだ。このインシデントの根本的な原因について、OpenAI は詳細を提供しなかったが、今日の未明になって、進行中の分散型サービス拒否 (DDoS) 攻撃に関連していることを認めた。OpenAI のインシデント・レポートには、「DDoS 攻撃と思われる異常なトラフィック・パターンによる周期的な停止に対処している。私たちは、この問題を軽減するための作業を続けている」と述べている。

UK AI Safety Institute が設立： AI の未来への青写真とは？

UK AI Safety Institute: A Blueprint for the Future of AI?

2023/11/03 InfoSecurity — 英国の Frontier AI Taskforce は、2023年4月にファウンデーション・モデル・タスクフォースとして発足した政府出資のイニシアチブである。しかし同機関は、英国 AI Safety Institute へと進化しつつある。Rishi Sunak 英国首相は、2023年11月2日に英国ブレッチリー・パークで開催された AI Safety Summit の閉会スピーチで、同研究所の設立を発表した。この新組織における英国政府の目的は、新たなタイプのAI の安全性テストを任務とする世界的なハブにすることだと、Sunak 首相は述べている。