_AI/ML – Page 6 – IoT OT Security News

GitHub Copilot で発見されたジェイルブレイクの手法：悪意のモデルのトレーニングなどが可能に？

New Jailbreaks Allow Users to Manipulate GitHub Copilot

2025/01/31 DarkReading — GitHub の AI コーディング・アシスタント Copilot を操作する、２つの新たな手法を研究者たちが発見した。この方式を用いれば、セキュリティ制限やサブスクリプション料金の回避や、悪意のモデルのトレーニングなどが可能になる。

DeepSeek による AI への挑戦：軽量／安価なオープン・モデルと国家安全保障の問題

How DeepSeek changed the future of AI—and what that means for national security

2025/01/30 NextGov — 中国の DeepSeek が発表した内容は、米国の著名なツールと比べて、その構築に用いられるコンピューティング・パワーがきわめて少ないという、生成 AI へのアプローチの詳細である。その数日後に、国防総省における AI の購入／使用の方法から、米国人の生活やプライバシーに対して外国勢力もたらす混乱にいたるまで、AI と国家安全保障をめぐる世界的な議論が変化している。

国家に支援される APT と AI の関係：57 の脅威グループが Google Gemini を悪用

Google: Over 57 Nation-State Threat Groups Using AI for Cyber Operations

2025/01/30 TheHackerNews — 中国／北朝鮮／イラン／ロシアに関連するとされる 57 の脅威アクター・グループが、Google が提供する人工知能 (AI) 技術を使用して、悪意の活動を強化していることが確認されている。Google Threat Intelligence Group (GTIG) の最新レポートには、「脅威アクターたちは、そのオペレーションのために Gemini を試しており、生産性の向上は見つかっているが、新しい機能の開発は確認されていない。いまの脅威アクターたちは AI の研究段階にあり、コードのトラブル・シューティング／コンテンツの作成およびローカライズを試行している」と記されている。

DeepSeek からリークした大量のデータ：チャット・ログや機密情報が流出

DeepSeek AI Leaks Over a Million Chat Logs and Sensitive Data Online

2025/01/30 HackRead — 中国の AI 企業 DeepSeek が、OpenAI のシステムに匹敵する AI モデルで名を馳せている。しかし、同社の台頭につれて、深刻なセキュリティ問題が発生している。Wiz の研究者が発見したのは、同社に関連付けられたデータベースが一般公開されており、100 万件を超えるログ・エントリ／バックエンドの詳細／ソフトウェア・キーなどが公開されている状況である。

DeepSeek R1 の潜在的なリスク：Evil Jailbreak などの手法による倫理的な制約の破壊

DeepSeek R1: China’s Advanced AI Model Raises Security Concerns

2025/01/30 SecurityOnline — 中国で開発された新しい AI モデル DeepSeek R1 に存在する、深刻なセキュリティ脆弱性を浮き彫りにするレポートを、サイバー・セキュリティ情報企業 KELA が発表した。DeepSeek R1 は推論と問題解決において優れた能力を誇っているが、簡単な操作により、有害なコンテンツなどの作成を指示する、悪意の出力の生成が可能だと、KELA の調査結果が指摘している。

Google の Agentic AI Security Team が発表：プロンプト・インジェクション攻撃への対抗策とは？

Google’s Agentic AI Security Team Develops Framework to Combat Prompt Injection Attacks

2025/01/29 SecurityOnline — 最近のブログ投稿で Google の Agentic AI Security Team が発表したのは、Gemini などの AI システムに対するプロンプト・インジェクション攻撃のリスクを評価し、軽減するための新しいフレームワークの開発に関する情報である。このアプローチにおいては、自動化されたレッドチーム・テクニックを使用して、AI を操作する悪意の試みを特定／防御するという。

AI SOC Analysts：人間の持つ専門知識と AI が実現する効率性のコラボレーション

AI SOC Analysts: Propelling SecOps into the future

2025/01/28 TheHackerNews — アラートに対する優先順位付けと調査は、セキュリティ運用の要である。増え続けるアラートの量と複雑さに対応しようと、SOC チームが努力している一方で、AI による SOC 自動化戦略が重要なソリューションとして浮上している。このブログでは、AI SOC アナリストがアラート管理を変革し、主要な SOC の課題に対処しながら、より迅速な調査と対応を可能にする方法について説明していく。

DeepSeek を襲う大規模サイバー攻撃：新規ユーザーの登録に支障

DeepSeek Faces Large-scale Cyberattack, Halts New User Registrations

2025/01/27 HackRead — 人工知能の世界で注目を浴びている DeepSeek だが、大規模なサイバー攻撃に直面しており、サービスが中断していることを認めている。同社の Web サイトには、「DeepSeek のサービスに対する大規模な攻撃により、登録が混雑している可能性がある。しばらく待ってから、試してほしい。なお、すでに登録済みのユーザーは、通常どおりログインできる。ご理解に対して感謝する」と記されている。

Meta Llama-Stack の脆弱性 CVE-2024-50050 が FIX：PoC も提供

CVE-2024-50050: Critical Security Flaw in Meta’s Llama-Stack Framework

2025/01/25 SecurityOnline — Generative AI (GenAI) アプリケーションの構築と展開において、人気を博している OSS フレームワーク Meta Llama-Stack に、深刻な脆弱性 CVE-2024-50050 が存在することを、Oligo Research チームが報告した。pyzmq ライブラリの、安全が確保されない使用による生じる、この脆弱性を悪用するリモートの攻撃者は、任意のコード実行を達成し、AI モデルのホスティング／データの整合性／システムのセキュリティに対して、重大なリスクをもたらすという。

2025年のセキュリティを考える：OSS とソフトウェア・サプライチェーンに注目すべきだ

Cyber Insights 2025: Open Source and Software Supply Chain Security

2025/01/15 SecurityWeek — RapidFort の CEO である Mehran Farimani は、「これまでの 10年間を経て、Open Source Software (OSS) は主要な脅威ベクターとなった。その理由は、500万を超える OSS パッケージが提供されているという、きわめて単純な数字にある」と説明する。Endor Labs の Chief Security Advisor である Chris Hughes は、「これまでの 10年間で、OSS の採用は飛躍的に増加しており、減速の兆候は見られない。現時点において OSS は、最新のコードベースの約 90% に存在し、それらのコードベースの 70～80% を占めている」と指摘する。

Rasa フレームワークの脆弱性 CVE-2024-49375 が FIX：RCE の可能性

Critical Vulnerability in Rasa Framework Enables Remote Code Execution (CVE-2024-49375)

2025/01/15 SecurityOnline — 人気のオープンソース・フレームワークである Rasa に、深刻な脆弱性 CVE-2024-49375 (CVSS：9.1) が発見された。この脆弱性を悪用する攻撃者は、悪意を持って細工したデルをリモートから読み込むことで、リモート・コード実行 (RCE：Remote Code Execution) の可能性を手にする。Rasa は、テキスト／音声ベースの会話型 AI アプリケーション開発に使用されており、そのダウンロード数は 2500万件以上を記録し、機械学習の導入における重要な基盤となっている。

Gradio の脆弱性 CVE-2025-23042 が FIX：機密ファイルの漏洩に至る可能性

CVE-2025-23042 (CVSS 9.1): Gradio Patches Critical ACL Bypass Flaw in Popular Machine Learning Platform

2025/01/15 SecurityOnline — 機械学習のデモや Web アプリ開発で人気を博す、Python ライブラリ Gradio において、深刻な脆弱性 CVE-2025-23042 (CVSS：9.1) に対するパッチが適用された。この脆弱性が悪用されると、Access Control List (ACL) のバイパスが生じ、機密ファイルが暴露する恐れがある。

Windows Hyper-V のゼロデイ脆弱性 CVE-2025-21333 などが FIX：実環境での悪用を確認

Microsoft fixes actively exploited Windows Hyper-V zero-day flaws

2025/01/15 HelpNetSecurity — Microsoft は、January 2025 Patch Tuesday において、様々な製品に影響をおよぼす 157件の脆弱性に対処した。そのうちの３件 (Hyper-V) の脆弱性は、積極的な悪用が確認されている。悪用が確認された３つのゼロデイ脆弱性は、CVE-2025-21333 (バッファ・オーバーフローの脆弱性) および、 CVE-2025-21334／CVE-2025-21335 (解放後メモリ使用の欠陥) である。

脅威リサーチを構成するプロプラと OSS：組織が備えるべきセキュリティ対策とは

Balancing proprietary and open-source tools in cyber threat research

2025/01/06 HelpNetSecurity — Microsoft の Senior Security Researcher である Thomas Roccia へのインタビューは、サイバーセキュリティ運用における迅速かつ適切な意思決定を、脅威リサーチが促進する状況について説明するものだ。彼の示すのは、脅威リサーチの内部と外部のバランスおよび、AI と地政学的イベントの影響、そして、組織におけるセキュリティ対策の強化に関する洞察である。

クラウド・ネイティブの時代：マシン ID を狙う攻撃者が増えてくるはずだ

Machine identities are the next big target for attackers

2024/12/30 HelpNetSecurity — これまでの１年以内に、クラウド・ネイティブ環境に関連するセキュリティ・インシデントに、86% の組織が遭遇していると Venafi は指摘している。その結果として、53% の組織が、アプリケーションのリリース遅延や、開発ペースのスローダウンを経験し、45% の組織は、アプリケーション・サービスの停止／中断に見舞われたという。さらに、30% の組織は、データ／ネットワーク／システムへの、攻撃者による不正アクセスの可能性があると回答している。

FuzzyAI：LLM のファジングを自動化するパワフルな OSS ツール

FuzzyAI: Open-source tool for automated LLM fuzzing

2024/12/13 HelpNetSecurity — 新たに登場したオープンソース・フレームワークの FuzzyAI は、LLM のファジングを自動化する強力なツールである。ガードレール迂回や有害な出力生成などの、LLM の潜在的なセキュリティ脆弱性の特定／緩和を支援するために設計されている。FuzzyAI の主な機能は、様々な敵対的インプットに対する AI モデルのテスト／セキュリティ・システムにおける潜在的な弱点の特定／AI 開発と展開の安全性向上のための体系的なアプローチなどである。

ソフトウェア・サプライチェーンが世界を飲み込む：いまなら Marc Andreessen はそう言うだろう

Lessons From the Largest Software Supply Chain Incidents

2024/12/11 DarkReading — 2011年の Marc Andreessen の言葉を覚えているだろうか。それは、「ソフトウェアが世界を飲み込んでいる」というフレーズであり、13年以上が経ったいまも、真実味を深め続けている。産業界はソフトウェアにより変革され、世界経済の活性化においてもソフトウェアは不可欠だ。つまり、世界はソフトウェアで動いている。いまの企業に求められるのは、ビジネス環境における苛烈な競争に生き残ることであり、そのために、かつてないスピードで大量のソフトウェアが生み出されている。

PyPI における Ultralytics AI の悪用：ビルド環境の侵害と XMRig マルウェアの展開

Ultralytics AI Library with 60M Downloads Compromised for Cryptomining

2024/12/09 HackRead — PyPI (Python Package Index) で人気を博す、Ultralytics AI ライブラリに悪意のコードを注入して、暗号通貨のマイニングを行うという攻撃が、ReversingLabs のサイバーセキュリティ研究者たちにより発見された。

Microsoft Recall のプレビューが始まる：プライバシー保護のための新たな機能とは？

Microsoft Finally Releases Recall as Part of Windows Insider Preview

2024/12/03 DarkReading — Windows Recall を延期発表から６ヶ月後に Microsoft は、Dev Channel を通じて Windows Insider 向けに改良版の初プレビューをリリースした。このプレビューは、Qualcomm Snapdragon X Elite および Plus Copilot+ PC を使用する Windows Insider だけが利用できるものだ。Microsoft によると、Click to Do 付きの Recall のプレビューを取り込んだ Windows のビルドは、Windows 11 Insider Preview Build 26120.2415 (KB5046723) となる。Intel／AMD 向けの Copilot+ PC のサポートは、後日に提供されるという。

NVIDIA – Base Command Manager の脆弱性 CVE-2024-0138 (CVSS 9.8) が FIX：ただちにパッチを！

NVIDIA Base Command Manager Update Patches CVE-2024-0138 (CVSS 9.8)

2024/11/21 SecurityOnline — NVIDIA が公表したのは Base Command Manager ソフトウェアに対する、重要なセキュリティ・アップデートのリリースに関する情報である。その CMDaemon コンポーネントに存在する、脆弱性 CVE-2024-0138 (CVSS：9.8) の悪用に成功した攻撃者により、コード実行／権限昇格／データ改竄などが引き起こされる可能性がある。

ML Toolkit 群で発見された複数の脆弱性：サーバ乗っ取りや特権昇格にいたる恐れ

Security Flaws in Popular ML Toolkits Enable Server Hijacks, Privilege Escalation

20224/11/11 TheHackerNews — 機械学習 (ML) に関連する、15種類のオープンソース・プロジェクトにまたがる、およそ 20件のセキュリティ脆弱性が発見された。ソフトウェア・サプライチェーン・セキュリティ企業の JFrog は、先週に発表した分析の結果において、サーバ側／クライアント側で新たな脆弱性が発見されたと述べている。

OWASP の GenAI セキュリティ・ガイダンス：ディープフェイクの増加を受けて強化

OWASP Beefs Up GenAI Security Guidance Amid Growing Deepfakes

2024/11/05 DarkReading — いまでは、ディープフェイクや GenAI 攻撃は珍しいものではなく、今後においては、そのような攻撃が急増する兆候が見られる。すでに、AI が生成したテキストは、電子メールでは一般的なものとなり、人間が作成した可能性が低い電子メールを検出する方法を、セキュリティ企業は見つけ出そうとしている。mimecast の分析によると、人間が作成した電子メールは、すべての電子メールの約 88％に減少している。LLM が生成する電子メールの割合は、2022年後半の約 7％から、現在の約 12％へと上昇している。

Google LLM の成果：ファジングでは到達できなかった SQLite の脆弱性を発見

Google Says Its AI Found SQLite Vulnerability That Fuzzing Missed

2024/11/04 SecurityWeek — Google によると、従来からのファジングでは到達できなかった SQLite の脆弱性が、LLM (Large Language Model) プロジェクトにより発見されたという。同社は 2024年6月に、LLM が持つとされる、攻撃的セキュリティ能力の評価を目的とする、Project Naptime の詳細を共有した。Google の Project Zero と DeepMind の共同プロジェクトである Naptime は、その後に Big Sleep というプロジェクトへと進化している。

AI プラットフォーム Ollama に６つの脆弱性：AI モデルの盗用と汚染のリスクとは？

Six Vulnerabilities Uncovered in Ollama: Risks of AI Model Theft and Poisoning

2024/11/03 SecurityOnline — ローカル／クラウドのインフラ上で LLM (large language models) を実行する、人気オープンソース・フレームワークである Ollama に、６つの脆弱性が発見された。エンターテイメント AI 環境において Ollama の使用が急増する中で、これらの脆弱性が浮き彫りにするのは、AI ツールを導入する組織にとっての深刻なリスクである。

Apple の Private Cloud Compute：セキュリティとプライバシーの保護を強化

Apple Opens Private Cloud Compute for Public Security Inspection

2024/10/24 SecurityWeek — Apple は新しいツールを導入し、VRE (Virtual Research Lab) を立ち上げることで、Private Cloud Compute 技術に関するセキュリティとプライバシーの情報を、最新の iPhone に統合するという。それにより、さまざまな見解が一般に公開され、検査／検証が推進される。同社は、「Apple Intelligence AI が搭載される機能の内側に、このツールによりデータが保持され、検証可能な透明性の提供が約束される」と述べている。

Vulnhuntr で脆弱性を発見：LLM と静的コード解析による包括的な機能を提供

Vulnhuntr: A Tool for Finding Exploitable Vulnerabilities with LLMs and Static Code Analysis

2024/10/19 SecurityOnline — 今日のサイバーセキュリティの進化の状況において、ソフトウェアとインフラの安全性を維持するために、コードベースの脆弱性を特定することは不可欠である。GitHub で入手可能なオープンソース・ツールである Vulnhuntr は、LLM (Large Language Models) と静的コード解析を活用することで、Python ベースのプロジェクトにおける、リモートから悪用可能な脆弱性を特定する。

AI コール・センターへの侵害が発覚：盗まれたデータの悪用が今後に及ぼす影響は？

Over 10m Conversations Exposed in AI Call Center Hack

2024/10/10 InfoSecurity — 大規模なデータ侵害により、中東の AI 搭載コールセンター・プラットフォームから、1,000 万件を超える会話が漏洩した。サイバー・セキュリティ企業 Resecurity によると、この侵害はプラットフォームの管理ダッシュボードへの不正アクセスに関係しているという。その結果として、消費者／オペレーター／AI エージェント間の、1,020 万件を超えるインタラクションが、攻撃者のより不正に収集されたという。Resecurity は、盗まれたデータが悪用されると、高度な詐欺／フィッシング・スキームなどに加えて、AI を介した悪意のアクティビティにいたる可能性があると警告している。

OpenAI を悪用するサイバー犯罪と偽情報拡散：20件以上の悪意のキャンペーンを阻止

OpenAI Blocks 20 Global Malicious Campaigns Using AI for Cybercrime and Disinformation

2024/10/10 TheHackerNews — 10月9日に OpenAI が発表したのは、同社のプラットフォームをグローバルで悪用する、20件以上の悪意のアクティビティとネットワークを、2024年に入ってから阻止したというメッセージである。阻止された悪質な活動として挙げられるのは、マルウェアのデバッグ／悪意の Web サイト記事執筆／悪意の SNS アカウント経歴の作成／X の偽アカウント用の AI 生成プロフィール画像の作成などである。

Critical NVIDIA Container Toolkit の脆弱性：パブリック・クラウドの 33% に影響

Critical NVIDIA Container Toolkit flaw could allow access to the underlying host

2024/09/30 SecurityAffairs — NVIDIA Container Toolkit に存在する深刻な脆弱性 CVE-2024-0132 (CVSS スコア 9.0) により、コンテナ・エスケープを達成した攻撃者が、基盤となるホストへの完全にアクセスを得る可能性が生じている。この脆弱性は Time-of-check Time-of-Use (TOCTOU) に起因するものであり、NVIDIA Container Toolkit バージョン 1.16.1 未満に影響を及ぼすものだ。

Microsoft Windows Recall がアップグレード：徹底したオプトインによる安全なデザインとは？

Microsoft: Windows Recall now can be removed, is more secure

2024/09/27 BleepingComputer — Microsoft の発表は、AI を搭載する Windows Recall の、セキュリティとプライバシーのアップグレードに関するものだ。おれにより、ユーザー・データに対するデフォルトの保護が強化され、アクセス制御が厳格化されるという。今回の発表は、デフォルトのデータ・プライバシーとセキュリティ保護の強化を求める、ユーザーからの反発に応えたものであり、同社はパブリックなリリースを延期し、Windows Insiders 向けのプレビュー版から、提供を開始することにしている。

NVIDIA Container Toolkit の深刻な脆弱性 CVE-2024-0132 が FIX：コンテナ・エスケープの恐れ

Critical NVIDIA Container Toolkit Vulnerability Could Grant Full Host Access to Attackers

2024/09/27 TheHackerNews — NVIDIA Container Toolkit に、深刻なセキュリティ上の欠陥が発見されました。この脆弱性の悪用に成功した脅威アクターは、コンテナの境界を突破し、基盤となるホストへの完全なアクセスを得る可能性が生じる。この脆弱性 CVE-2024-0132 (CVSS：9.0) は、NVIDIA Container Toolkit バージョン v1.16.2 および NVIDIA GPU Operator バージョン 24.6.2 で解決されている。

AsyncRAT マルウェア：AI が生成する PowerShell スクリプトで配信

Hackers deploy AI-written malware in targeted attacks

2024/09/24 BleepingComputer — フランス語圏のユーザーを標的とするメール・キャンペーンで発見された、AsyncRAT マルウェアを配信する悪意のコードは、生成 AI サービスで作成されたと考えられている。生成 AI 技術は、サイバー犯罪者らにより、説得力のあるメールの作成に悪用されてきた。しかし、ベンダーが実装した保護策や制限にもかかわらず、AI ツールは悪意のソフトウェアの作成に悪用されていると、複数の政府機関が警告を発している。

AutoGPT の脆弱性 CVE-2024-6091 (CVSS 9.8) が FIX：PoC エクスプロイトが提供

166k+ Projects at Risk: AutoGPT’s Critical Vulnerability Explained – CVE-2024-6091 (CVSS 9.8)

2024/09/16 SecurityOnline — インテリジェント・エージェントによるタスク自動化を目的に設計された、パワフルな AI ツール AutoGPT に、重大なセキュリティ脆弱性が発見された。AutoGPT は、その複雑な操作を効率化する機能で高い評価を得ており、GitHub では 166,000 件以上のスターを獲得している。しかし、CVSS スコア 9.8 という、きわめて深刻な OS コマンドインジェクション脆弱性 CVE-2024-6091 が報告され、シェルコマンド実行機能に関するセキュリティ上の懸念が浮上している。

Windows Recall の削除は可能：更新プログラム KB5041865 でオプションを発見

You can remove Recall from Windows if you do not want it

2024/08/29 ghacks — いま、Microsoft は、物議を醸している AI 機能 Recall の２番目のバージョンを準備している。今回こそは上手くやれると、彼らは目論んでいる。簡単におさらいしよう。この５月に Microsoft は、新しい Copilot + PC を披露した際に、Recall についても公表した。Recall は、Copilot+ PC の主要機能であった。この機能はデフォルトで ON になっており、５秒ごとに画面全体のスクリーン・ショットを撮ってくれる。スクリーンショットを撮らないアプリは、ごく僅かである。その後にユーザーは、Recall 機能を介してコンテンツを操作できる。

MLOps 群に存在する 20件以上の脆弱性：サプライチェーン攻撃の可能性を検証する – JFrog

Researchers Identify Over 20 Supply Chain Vulnerabilities in MLOps Platforms

2024/08/26 TheHackerNews — MLOps プラットフォーム群をターゲットに悪用される可能性のある 20以上の脆弱性が、サイバー・セキュリティ研究者たちにより発見された。それが警告するのは、機械学習 (ML：machine learning) ソフトウェアのサプライチェーンにおける、セキュリティ・リスクの存在である。これらの脆弱性は、固有の欠陥と実装ベースの欠陥が含まれるが、任意のコード実行から悪意のデータセットのロードにいたるまでの、深刻な結果をもたらす可能性が生じている。

Gartner が考えるセキュリティと人工知能：2024 Hype Cycle から現状を読み解く

Gartner Spotlights AI, Security in 2024 Hype Cycle for Emerging Tech

2024/08/22 DarkReading — 企業は新興テクノロジーに注意を払う必要があるが、実証されていないテクノロジーを扱う能力に加えて、これらのテクノロジーを活用する方法についても、戦略を立てる必要があると、Gartner は述べている。今週にリリースされた Gartner の 2024 Hype Cycle for Emerging Technologies では、自律型 AI／開発者の生産性／トータル・エクスペリエンス／人間中心のセキュリティとプライバシーが取り上げられている。これらのテクノロジーを企業に組み込む方法を決定する前に、サイバー・セキュリティのリーダーたちは自社と状況を確かめた上で、それらのテクノロジーの長所と短所を知ることで、最大のメリットを得られるようになる。

Microsoft Copilot Studio の脆弱性 CVE-2024-38206：深刻な情報漏洩を修正

Experts disclosed a critical information-disclosure flaw in Microsoft Copilot Studio

2024/08/21 SecurityAffairs — Microsoft の Copilot Studio に影響を及ぼす、深刻な SSRF (Server-Side Request Forgery) の脆弱性 CVE-2024-38206 (CVSS：8.5) が、研究者たちにより公表された。この脆弱性の悪用に成功した攻撃者は、機密情報への不正アクセスの機会を手にする。Microsoft のアドバイザリには、「認証された攻撃者であれば、Microsoft Copilot Studio の SSRF 保護を回避し、ネットワーク経由で機密情報を漏えいさせることが可能だ」と記されている。

AI プラットフォーム Ollama に脆弱性 CVE-2024-37032：リモート・コード実行の恐れ

Critical RCE Vulnerability Discovered in Ollama AI Infrastructure Tool

2024/06/24 TheHackerNews — オープンソースの AI インフラ・プラットフォーム Ollama に存在する、リモート・コード実行の脆弱性 CVE-2024-37032 に関する詳細情報が、クラウド・セキュリティ企業 Wiz により公開された。この Wiz が Probllama と命名する脆弱性は、2024年5月5日に情報が開示され、その後の 5月7日にリリースされた Ollama 0.1.34 で対処されている。

Nvidia Triton の深刻な脆弱性 CVE-2024-0087／0088 が FIX：PoC も公開！

PoC Published for Critical Nvidia Triton Inference Server Vulnerabilities

2024/06/20 SecurityOnline — NVIDIA がリリースしている Triton Inference Server とは、GPU を用いて機械学習モデルを高速で推論させる、サーバを構築するためのフレームワークのことである。その Triton Inference Server に存在する２つの深刻な脆弱性について、サイバー・セキュリティ研究者の Zhiniang Peng が、技術的詳細と PoC エクスプロイトを発表した。

Deep Java Library の深刻な脆弱性 CVE-2024-37902 が FIX：システム乗っ取りの恐れ

CVE-2024-37902 (CVSS 10): Critical Flaw in Deep Java Library Opens Door to System Takeover

2024/06/17 SecurityOnline — ディープ・ラーニング・プロジェクト用の OSS フレームワークとして広く利用されている、Deep Java Library (DJL) に深刻な脆弱性 CVE-2024-37902 が発見された。この脆弱性は、DJL バージョン 0.28.0 未満に影響をおよぼすものであり、悪用に成功した攻撃者は、重要なシステム・ファイルを上書きし、侵害したシステムの制御を奪う可能性を手にする。

Windows Recall は一時停止：内部告発ダメージを回避する Microsoft の選択とは？

Microsoft delays Windows Recall rollout, more security testing needed

2024/06/14 HelpNetSecurity — Windows 11 の機能として物議を醸している Recall のリリースを、Microsoft は延期している。Microsoft の Copilot+ PC がリリースされる予定の 6月18日から、Recall のプレビューは広く利用できるはずだった。しかし、現時点においては、Windows Insider Program (WIP) の参加者のみによる利用が、今後の数週間のうちに開始される計画に変更されている。

PyTorch 分散 RPC フレームワークの脆弱性 CVE-2024-5480 が FIX：ただちにパッチを！

CVE-2024-5480 (CVSS 10): Critical RCE Vulnerability in PyTorch Distributed RPC Framework

2024/06/07 SecurityOnline — PyTorch の分散 RPC (Remote Procedure Call) フレームワークに、深刻な脆弱性 CVE-2024-5480 が発見され、機械学習モデルや機密データに対するリモートコード実行 (RCE) 攻撃の可能性が生じている。この脆弱性は、セキュリティ研究者の xbalien により特定されたものであり、CVSS 値は最大の 10.0 と評価されている。分散トレーニング環境において PyTorch を利用している、ユーザーにとって急務なのは、速やかなパッチ適用である。

Windows 11 の新機能 Recall：深刻なデータ漏えいを証明する TotalRecall という PoC

TotalRecall shows how easily data collected by Windows Recall can be stolen

2024/06/04 HelpNetSecurity — 新たに発表された Windows Recall 機能を悪用して、機密情報を盗み出す方法を示すツール TotalRecall が、エシカル・ハッカー Alexander Hagenah により作成された。5月20日に Microsoftは、Windows 11 が搭載される PC 用の、新たなラインナップとして、”Copilot+” を発表した。そのプレビュー機能の中ある Recall だが、セキュリティの専門家やプライバシーを重視するユーザーから、すぐに疑いの目で見られることになった。

Qdrant の脆弱性 CVE-2024-3584 (CVSS 9.8) が FIX： PoC エクスプロイトも公開

CVE-2024-3584: Critical Path Traversal Flaw Exposes Qdrant Vector Database to Remote Takeover

2024/06/03 SecurityOnline — ニューラル・ネットワーク・ベースのマッチングや、セマンティック検索アプリケーションで広く使用されている、オープンソースのベンター類似検索エンジン Qdrant に、深刻な脆弱性 CVE-2024-3584 (CVSS：9.8) が発見された。

PyPI の新たな悪意のパッケージ Pytoileur：巧妙な手口で検知を回避

New PyPI Malware “Pytoileur” Steals Crypto and Evades Detection

2024/05/29 InfoSecurity — Python Package Index (PyPI) 上に、悪意のパッケージ pytoileur が存在していたことが、サイバーセキュリティ研究者たちにより明らかになった。その、Python で書かれた API 管理ツールと謳うパッケージには、トロイの木馬化された Windows バイナリを、ダウンロードしてインストールするコードが仕込まれていた。それらのバイナリは、監視の機能／永続化の確立／暗号通貨の窃取などを可能にするおのであり、ダウンローダーとして機能するパッケージは、Sonatype の自動マルウェア検出システムにより発見された後に、ただちに削除された。

Python の AI パッケージの脆弱性 CVE-2024-34359 が FIX

Critical Flaw in AI Python Package Can Lead to System and Data Compromise

2024/05/17 SecurityWeek — AI アプリケーション開発者が使用する Python パッケージにおいて、先日に発見された重大な脆弱性により、任意のコード実行が可能となり、システムやデータが危険にさらす可能性があるという。その脆弱性 CVE-2024-34359 は、研究者 Patrick Peng (別名 retr0reg) により発見され、Llama Dramaと呼ばれている。5月16日 (木) に、サイバーセキュリティ企業 Checkmarks が発表したのは、この脆弱性と影響について説明するブログ記事である。

Intel の深刻な脆弱性 CVE-2024-22476 (CVSS 10) などが FIX：全体で 90件を超える欠陥に対応

CVE-2024-22476 (CVSS 10): Intel’s Critical AI Flaw Leaves Systems Open to Attack

2024/05/16 SecurityOnline — Intel は、5月14日に 41件のセキュリティ情報を発表し、同社の製品ライン全体で 90を超える脆弱性に対処した。これらのセキュリティ欠陥の主なポイントはソフトウェアの領域にあり、その中には重要な AI ツールの脆弱性も含まれている。

攻撃対象の拡大／ID ベースの攻撃／AI の新たな利用がテーマ – RSA Con 2024

RSAC: Experts Highlight Novel Cyber Threats and Tactics

2024/05/10 InfoSecurity — サイバー犯罪者や脅威アクターたちが、ツールの性能を向上させるにつれて、洗練された新たな攻撃手法が出現している。防御者たちにとっては、この進化を常に把握することが不可欠となる。Proofpoint の Senior Manager of Threat Research である Daniel Blackford は、「攻撃者たちは大きな成功を収め、多くの資金を手にし、活動範囲を拡大している」と説明している。

OSS セキュリティを加速：レギュレーション整備／Security-by-Design／AI の活用 – RSA Con

RSAC: Three Strategies to Boost Open-Source Security

2024/05/08 InfoSecurity — OSS におけるセキュリティ強化は、この種のコミュニティが非公式かつユビキタスであるため、政府にとって重要な課題となっている。ソフトウェア全般にわたって Security-by-Design を推進し、脆弱性の悪用やサプライチェーン・インシデントを減らすという米国政府の取り組みにおいて、OSS は極めて重要な要素になっている。RSA Conference 2024 が、政府関係者と OSS の関係者たちが、このユニークなエコシステムで Security-by-Design の原則を推進する方法について、議論する機会を提供した。

Google の最新セキュリティ製品：AI とMandiant のノウハウをプッシュ – RSA Con 2024

Google Debuts New Security Products, Hyping AI and Mandiant Expertise

2024/05/06 SecurityWeek — Mandiant を $5.6 billion で買収した Google だが、それから僅か２年足らずで、野心的なエンタープライズ・セキュリティ戦略を具体化し始めている。具体的に言うと、脅威インテリジェンスとセキュリティ・オペレーションの新製品を発表し、AI の魔法を使って急成長するサイバー・セキュリティ市場への参入を宣言している。