AI/ML – Page 7 – IoT OT Security News

Vulnhuntr で脆弱性を発見：LLM と静的コード解析による包括的な機能を提供

Vulnhuntr: A Tool for Finding Exploitable Vulnerabilities with LLMs and Static Code Analysis

2024/10/19 SecurityOnline — 今日のサイバーセキュリティの進化の状況において、ソフトウェアとインフラの安全性を維持するために、コードベースの脆弱性を特定することは不可欠である。GitHub で入手可能なオープンソース・ツールである Vulnhuntr は、LLM (Large Language Models) と静的コード解析を活用することで、Python ベースのプロジェクトにおける、リモートから悪用可能な脆弱性を特定する。

AI コール・センターへの侵害が発覚：盗まれたデータの悪用が今後に及ぼす影響は？

Over 10m Conversations Exposed in AI Call Center Hack

2024/10/10 InfoSecurity — 大規模なデータ侵害により、中東の AI 搭載コールセンター・プラットフォームから、1,000 万件を超える会話が漏洩した。サイバー・セキュリティ企業 Resecurity によると、この侵害はプラットフォームの管理ダッシュボードへの不正アクセスに関係しているという。その結果として、消費者／オペレーター／AI エージェント間の、1,020 万件を超えるインタラクションが、攻撃者のより不正に収集されたという。Resecurity は、盗まれたデータが悪用されると、高度な詐欺／フィッシング・スキームなどに加えて、AI を介した悪意のアクティビティにいたる可能性があると警告している。

OpenAI を悪用するサイバー犯罪と偽情報拡散：20件以上の悪意のキャンペーンを阻止

OpenAI Blocks 20 Global Malicious Campaigns Using AI for Cybercrime and Disinformation

2024/10/10 TheHackerNews — 10月9日に OpenAI が発表したのは、同社のプラットフォームをグローバルで悪用する、20件以上の悪意のアクティビティとネットワークを、2024年に入ってから阻止したというメッセージである。阻止された悪質な活動として挙げられるのは、マルウェアのデバッグ／悪意の Web サイト記事執筆／悪意の SNS アカウント経歴の作成／X の偽アカウント用の AI 生成プロフィール画像の作成などである。

Critical NVIDIA Container Toolkit の脆弱性：パブリック・クラウドの 33% に影響

Critical NVIDIA Container Toolkit flaw could allow access to the underlying host

2024/09/30 SecurityAffairs — NVIDIA Container Toolkit に存在する深刻な脆弱性 CVE-2024-0132 (CVSS スコア 9.0) により、コンテナ・エスケープを達成した攻撃者が、基盤となるホストへの完全にアクセスを得る可能性が生じている。この脆弱性は Time-of-check Time-of-Use (TOCTOU) に起因するものであり、NVIDIA Container Toolkit バージョン 1.16.1 未満に影響を及ぼすものだ。

NVIDIA Container Toolkit の深刻な脆弱性 CVE-2024-0132 が FIX：コンテナ・エスケープの恐れ

Critical NVIDIA Container Toolkit Vulnerability Could Grant Full Host Access to Attackers

2024/09/27 TheHackerNews — NVIDIA Container Toolkit に、深刻なセキュリティ上の欠陥が発見されました。この脆弱性の悪用に成功した脅威アクターは、コンテナの境界を突破し、基盤となるホストへの完全なアクセスを得る可能性が生じる。この脆弱性 CVE-2024-0132 (CVSS：9.0) は、NVIDIA Container Toolkit バージョン v1.16.2 および NVIDIA GPU Operator バージョン 24.6.2 で解決されている。

AsyncRAT マルウェア：AI が生成する PowerShell スクリプトで配信

Hackers deploy AI-written malware in targeted attacks

2024/09/24 BleepingComputer — フランス語圏のユーザーを標的とするメール・キャンペーンで発見された、AsyncRAT マルウェアを配信する悪意のコードは、生成 AI サービスで作成されたと考えられている。生成 AI 技術は、サイバー犯罪者らにより、説得力のあるメールの作成に悪用されてきた。しかし、ベンダーが実装した保護策や制限にもかかわらず、AI ツールは悪意のソフトウェアの作成に悪用されていると、複数の政府機関が警告を発している。

AutoGPT の脆弱性 CVE-2024-6091 (CVSS 9.8) が FIX：PoC エクスプロイトが提供

166k+ Projects at Risk: AutoGPT’s Critical Vulnerability Explained – CVE-2024-6091 (CVSS 9.8)

2024/09/16 SecurityOnline — インテリジェント・エージェントによるタスク自動化を目的に設計された、パワフルな AI ツール AutoGPT に、重大なセキュリティ脆弱性が発見された。AutoGPT は、その複雑な操作を効率化する機能で高い評価を得ており、GitHub では 166,000 件以上のスターを獲得している。しかし、CVSS スコア 9.8 という、きわめて深刻な OS コマンドインジェクション脆弱性 CVE-2024-6091 が報告され、シェルコマンド実行機能に関するセキュリティ上の懸念が浮上している。

MindsDB の脆弱性 CVE-2024-24759 が FIX：PoC エクスプロイトも提供

MindsDB Fixes Critical CVE-2024-24759: DNS Rebinding Attack Bypasses Security Protections

2024/09/07 SecurityOnline — AI アプリを構築するための OSS プラットフォームとして人気の MindsDB は、セキュリティ対策のバイパスを許してしまう深刻な脆弱性に対してパッチを適用した。この脆弱性 CVE-2024-24759 (CVSS：9.3) の悪用に成功した攻撃者は、DNS リバインディング攻撃を用いて、SSRF (Server-Side Request Forgery) 対策をバイパスする可能性を手にする。

Windows Recall の削除は可能：更新プログラム KB5041865 でオプションを発見

You can remove Recall from Windows if you do not want it

2024/08/29 ghacks — いま、Microsoft は、物議を醸している AI 機能 Recall の２番目のバージョンを準備している。今回こそは上手くやれると、彼らは目論んでいる。簡単におさらいしよう。この５月に Microsoft は、新しい Copilot + PC を披露した際に、Recall についても公表した。Recall は、Copilot+ PC の主要機能であった。この機能はデフォルトで ON になっており、５秒ごとに画面全体のスクリーン・ショットを撮ってくれる。スクリーンショットを撮らないアプリは、ごく僅かである。その後にユーザーは、Recall 機能を介してコンテンツを操作できる。

Gartner が考えるセキュリティと人工知能：2024 Hype Cycle から現状を読み解く

Gartner Spotlights AI, Security in 2024 Hype Cycle for Emerging Tech

2024/08/22 DarkReading — 企業は新興テクノロジーに注意を払う必要があるが、実証されていないテクノロジーを扱う能力に加えて、これらのテクノロジーを活用する方法についても、戦略を立てる必要があると、Gartner は述べている。今週にリリースされた Gartner の 2024 Hype Cycle for Emerging Technologies では、自律型 AI／開発者の生産性／トータル・エクスペリエンス／人間中心のセキュリティとプライバシーが取り上げられている。これらのテクノロジーを企業に組み込む方法を決定する前に、サイバー・セキュリティのリーダーたちは自社と状況を確かめた上で、それらのテクノロジーの長所と短所を知ることで、最大のメリットを得られるようになる。

Microsoft Copilot Studio の脆弱性 CVE-2024-38206：深刻な情報漏洩を修正

Experts disclosed a critical information-disclosure flaw in Microsoft Copilot Studio

2024/08/21 SecurityAffairs — Microsoft の Copilot Studio に影響を及ぼす、深刻な SSRF (Server-Side Request Forgery) の脆弱性 CVE-2024-38206 (CVSS：8.5) が、研究者たちにより公表された。この脆弱性の悪用に成功した攻撃者は、機密情報への不正アクセスの機会を手にする。Microsoft のアドバイザリには、「認証された攻撃者であれば、Microsoft Copilot Studio の SSRF 保護を回避し、ネットワーク経由で機密情報を漏えいさせることが可能だ」と記されている。

AI プラットフォーム Ollama に脆弱性 CVE-2024-37032：リモート・コード実行の恐れ

Critical RCE Vulnerability Discovered in Ollama AI Infrastructure Tool

2024/06/24 TheHackerNews — オープンソースの AI インフラ・プラットフォーム Ollama に存在する、リモート・コード実行の脆弱性 CVE-2024-37032 に関する詳細情報が、クラウド・セキュリティ企業 Wiz により公開された。この Wiz が Probllama と命名する脆弱性は、2024年5月5日に情報が開示され、その後の 5月7日にリリースされた Ollama 0.1.34 で対処されている。

Nvidia Triton の深刻な脆弱性 CVE-2024-0087／0088 が FIX：PoC も公開！

PoC Published for Critical Nvidia Triton Inference Server Vulnerabilities

2024/06/20 SecurityOnline — NVIDIA がリリースしている Triton Inference Server とは、GPU を用いて機械学習モデルを高速で推論させる、サーバを構築するためのフレームワークのことである。その Triton Inference Server に存在する２つの深刻な脆弱性について、サイバー・セキュリティ研究者の Zhiniang Peng が、技術的詳細と PoC エクスプロイトを発表した。

Deep Java Library の深刻な脆弱性 CVE-2024-37902 が FIX：システム乗っ取りの恐れ

CVE-2024-37902 (CVSS 10): Critical Flaw in Deep Java Library Opens Door to System Takeover

2024/06/17 SecurityOnline — ディープ・ラーニング・プロジェクト用の OSS フレームワークとして広く利用されている、Deep Java Library (DJL) に深刻な脆弱性 CVE-2024-37902 が発見された。この脆弱性は、DJL バージョン 0.28.0 未満に影響をおよぼすものであり、悪用に成功した攻撃者は、重要なシステム・ファイルを上書きし、侵害したシステムの制御を奪う可能性を手にする。

Windows Recall は一時停止：内部告発ダメージを回避する Microsoft の選択とは？

Microsoft delays Windows Recall rollout, more security testing needed

2024/06/14 HelpNetSecurity — Windows 11 の機能として物議を醸している Recall のリリースを、Microsoft は延期している。Microsoft の Copilot+ PC がリリースされる予定の 6月18日から、Recall のプレビューは広く利用できるはずだった。しかし、現時点においては、Windows Insider Program (WIP) の参加者のみによる利用が、今後の数週間のうちに開始される計画に変更されている。

PyTorch 分散 RPC フレームワークの脆弱性 CVE-2024-5480 が FIX：ただちにパッチを！

CVE-2024-5480 (CVSS 10): Critical RCE Vulnerability in PyTorch Distributed RPC Framework

2024/06/07 SecurityOnline — PyTorch の分散 RPC (Remote Procedure Call) フレームワークに、深刻な脆弱性 CVE-2024-5480 が発見され、機械学習モデルや機密データに対するリモートコード実行 (RCE) 攻撃の可能性が生じている。この脆弱性は、セキュリティ研究者の xbalien により特定されたものであり、CVSS 値は最大の 10.0 と評価されている。分散トレーニング環境において PyTorch を利用している、ユーザーにとって急務なのは、速やかなパッチ適用である。

Windows 11 の新機能 Recall：深刻なデータ漏えいを証明する TotalRecall という PoC

TotalRecall shows how easily data collected by Windows Recall can be stolen

2024/06/04 HelpNetSecurity — 新たに発表された Windows Recall 機能を悪用して、機密情報を盗み出す方法を示すツール TotalRecall が、エシカル・ハッカー Alexander Hagenah により作成された。5月20日に Microsoftは、Windows 11 が搭載される PC 用の、新たなラインナップとして、”Copilot+” を発表した。そのプレビュー機能の中ある Recall だが、セキュリティの専門家やプライバシーを重視するユーザーから、すぐに疑いの目で見られることになった。

Qdrant の脆弱性 CVE-2024-3584 (CVSS 9.8) が FIX： PoC エクスプロイトも公開

CVE-2024-3584: Critical Path Traversal Flaw Exposes Qdrant Vector Database to Remote Takeover

2024/06/03 SecurityOnline — ニューラル・ネットワーク・ベースのマッチングや、セマンティック検索アプリケーションで広く使用されている、オープンソースのベンター類似検索エンジン Qdrant に、深刻な脆弱性 CVE-2024-3584 (CVSS：9.8) が発見された。

PyPI の新たな悪意のパッケージ Pytoileur：巧妙な手口で検知を回避

New PyPI Malware “Pytoileur” Steals Crypto and Evades Detection

2024/05/29 InfoSecurity — Python Package Index (PyPI) 上に、悪意のパッケージ pytoileur が存在していたことが、サイバーセキュリティ研究者たちにより明らかになった。その、Python で書かれた API 管理ツールと謳うパッケージには、トロイの木馬化された Windows バイナリを、ダウンロードしてインストールするコードが仕込まれていた。それらのバイナリは、監視の機能／永続化の確立／暗号通貨の窃取などを可能にするおのであり、ダウンローダーとして機能するパッケージは、Sonatype の自動マルウェア検出システムにより発見された後に、ただちに削除された。

Python の AI パッケージの脆弱性 CVE-2024-34359 が FIX

Critical Flaw in AI Python Package Can Lead to System and Data Compromise

2024/05/17 SecurityWeek — AI アプリケーション開発者が使用する Python パッケージにおいて、先日に発見された重大な脆弱性により、任意のコード実行が可能となり、システムやデータが危険にさらす可能性があるという。その脆弱性 CVE-2024-34359 は、研究者 Patrick Peng (別名 retr0reg) により発見され、Llama Dramaと呼ばれている。5月16日 (木) に、サイバーセキュリティ企業 Checkmarks が発表したのは、この脆弱性と影響について説明するブログ記事である。

Intel の深刻な脆弱性 CVE-2024-22476 (CVSS 10) などが FIX：全体で 90件を超える欠陥に対応

CVE-2024-22476 (CVSS 10): Intel’s Critical AI Flaw Leaves Systems Open to Attack

2024/05/16 SecurityOnline — Intel は、5月14日に 41件のセキュリティ情報を発表し、同社の製品ライン全体で 90を超える脆弱性に対処した。これらのセキュリティ欠陥の主なポイントはソフトウェアの領域にあり、その中には重要な AI ツールの脆弱性も含まれている。

攻撃対象の拡大／ID ベースの攻撃／AI の新たな利用がテーマ – RSA Con 2024

RSAC: Experts Highlight Novel Cyber Threats and Tactics

2024/05/10 InfoSecurity — サイバー犯罪者や脅威アクターたちが、ツールの性能を向上させるにつれて、洗練された新たな攻撃手法が出現している。防御者たちにとっては、この進化を常に把握することが不可欠となる。Proofpoint の Senior Manager of Threat Research である Daniel Blackford は、「攻撃者たちは大きな成功を収め、多くの資金を手にし、活動範囲を拡大している」と説明している。

OSS セキュリティを加速：レギュレーション整備／Security-by-Design／AI の活用 – RSA Con

RSAC: Three Strategies to Boost Open-Source Security

2024/05/08 InfoSecurity — OSS におけるセキュリティ強化は、この種のコミュニティが非公式かつユビキタスであるため、政府にとって重要な課題となっている。ソフトウェア全般にわたって Security-by-Design を推進し、脆弱性の悪用やサプライチェーン・インシデントを減らすという米国政府の取り組みにおいて、OSS は極めて重要な要素になっている。RSA Conference 2024 が、政府関係者と OSS の関係者たちが、このユニークなエコシステムで Security-by-Design の原則を推進する方法について、議論する機会を提供した。

ビジネスにおける生成 AI の実態：企業幹部の 70％がセキュリティよりもイノベーションを優先 – IBM

#RSAC: 70% of Businesses Prioritize Innovation Over Security in Generative AI Projects

2024/05/06 InfoSecurity — 生成 AI プロジェクトに関する IBM の最新レポート “Securing Generative AI” によると、企業幹部の 70％がセキュリティよりもイノベーションを優先しているため、サイバー・セキュリティやプライバシーの各種のリスクに企業がさらされているという。この調査では、セキュリティが確保される生成 AI プロジェクトが、僅か 24％であることも判明している。その一方で、安全で信頼できる AI が、ビジネスの成功に不可欠であると、回答者の 82％が認めている。

Google の最新セキュリティ製品：AI とMandiant のノウハウをプッシュ – RSA Con 2024

Google Debuts New Security Products, Hyping AI and Mandiant Expertise

2024/05/06 SecurityWeek — Mandiant を $5.6 billion で買収した Google だが、それから僅か２年足らずで、野心的なエンタープライズ・セキュリティ戦略を具体化し始めている。具体的に言うと、脅威インテリジェンスとセキュリティ・オペレーションの新製品を発表し、AI の魔法を使って急成長するサイバー・セキュリティ市場への参入を宣言している。

BentoML の脆弱性 CVE-2024-2912 と PoC エクスプロイト：ただちにパッチを！

CVE-2024-2912: Critical ‘BentoML’ Flaw Opens AI Systems to Remote Takeover

2024/04/30 SecurityOnline — AI アプリケーションのビルド／デプロイに用いられる、人気の Python ベース・フレームワークである BentoML に、深刻なセキュリティ上の欠陥があることが明らかになった。この脆弱性 CVE-2024-2912 は、ソフトウェアがデータを処理する方法に起因し、BentoML を実行しているサーバ上で、攻撃者に任意のコード実行を許すものになる。

GPT-4 調査：脅威アドバイザリを読むだけで多くの脆弱性を悪用できる – University of Illinois

GPT-4 Can Exploit Most Vulns Just by Reading Threat Advisories

2024/04/19 DarkReading — GPT-4 を搭載した AI エージェントは、現実の世界のシステムに影響を及ぼしている、公開されている脆弱性の大半を、オンラインで読み込むだけで悪用できることが判明した。イリノイ大学アーバナ・シャンペーン校 (UIUC) が公開した最新の研究は、AI を悪用するサイバー脅威において、これまで 18ヶ月の間は停滞気味だった状況が、根本的に活性化する恐れがあるとしている。

NetOps／SecOps のコラボレーション促進戦略：たまには会食も – Netscout

Strategies to cultivate collaboration between NetOps and SecOps

2024/04/12 HelpNetSecurity — Netscout の CISO である Debby Briggs が、NetOps と SecOps を隔てるサイロの打破について、Help Net Security のインタビューで論じている。実践的なステップとして挙げられるのは、戦略会議のスケジュール／コミュニケーション嗜好の理解／チーム・コラボレーションの促進などだ。進化するクラウド・モデルでは、明確なコラボレーションと役割分担が重要になる。自動化と AI はインシデント対応を強化し、予算配分はチームの効率性に影響を与える。適切なツールを選択するには、問題解決能力／相互運用性／費用対効果などを考慮する必要がある。

LastPass の CEO になりすました音声フィシング：従業員の機転により被害には至らず

LastPass: Hackers targeted employee in failed deepfake CEO call

2024/04/11 BleepingComputer — 今週に LastPass が明らかにしたのは、ディープフェイク音声を使って同社の CEO Karim Toubba になりすますという、音声フィッシング攻撃を受けたことだ。しかし、McAfee による最近のグローバル調査によると、25％の人々が AI 音声を用いるなりすまし詐欺の被害にあった、もしくは、知り合いが被害にあったと回答している。ただし、その LastPass の従業員は、攻撃者が WhatsApp を使用していたことを、つまり、きわめて珍しいビジネス・チャネルを使っていたことを不審に思い、被害には至らなかったとのことだ。

マルウェアの増大が懸念される 2024年：脅威の拡大と複雑化する運用に向き合う – Thales 調査

Malware stands out as the fastest-growing threat of 2024

2024/03/21 HelpNetSecurity —セキュリティ脅威の量や深刻度が増加していると、IT 専門家の 93％が考えており、この数値は昨年の 47％から大幅に増加していると、Thales は述べている。ランサムウェア攻撃を受けた企業数は、この１年間で 27% 以上も急増した。このように脅威が高まっている一方で、ランサムウェア対策を適切に実施している企業は 50% に満たず、身代金を支払う企業は 8％となっている。

GitHub Advanced Security の新機能がリリース：AI を活用した脆弱性のパッチ適用支援

GitHub Launches AI-Powered Autofix Tool to Assist Devs in Patching Security Flaws

2024/03/21 TheHackerNews — 3月20日に GitHub が発表したのは、Advanced Security の全顧客を対象に、コードスキャン自動修正と呼ばれる機能を、パブリック・ベータ版として公開することである。GitHub の Pierre Tempel と Eric Tooley によると、「GitHub Copilot と CodeQL を搭載したコードスキャン自動修正機能は、JavaScript／TypeScript／Java／Python のアラート・タイプの 90％以上をカバーし、見つかった脆弱性の３分の２以上を、ほとんど編集せずに修正できるコード案を提供する」という。

Google Drive 上での機密データ管理：緩い共有がもたらす危険性を排除するには？

How to Find and Fix Risky Sharing in Google Drive

2024/03/06 TheHackerNews — Google Workspace の管理者なら誰でも、Google Drive 上で緩く共有された機密情報が、あっという間に乱雑な状態になることを知っている。それは、誰のせいでもない。組織の内外でのリアルタイム・コラボレーションを実現するための、生産性向上スイートとして設計されている以上、避けられないことなのだ。

増加するヴィッシング／スミッシング／フィッシング攻撃：ChatGPT 登場から 1,265%急増

Vishing, smishing, and phishing attacks skyrocket 1,265% post-ChatGPT

2024/02/29 HelpNetSecurity — 企業の 76% においては、ボイス／メッセージング詐欺対策が不十分である、その一方では、ChatGPT がリリースされた以降において、AI を利用するヴィッシング／スミッシングが急増していることが、Enea の調査により明らかになった。

IBM 2023 調査：企業における最大の脅威は、依然として基礎的なセキュリティ対策

The old, not the new: Basic security issues still biggest threat to enterprises

2024/02/23 HelpNetSecurity — IBM の 2024 X-Force Index によると、2023年に増加したのは、サイバー犯罪者が不正ログインを行い、有効なアカウントを通じて企業ネットワークに侵入するインデントであるという。

脆弱性へのパッチ適用：どうする優先順位？どうする AI 活用？

Toward Better Patching — A New Approach with a Dose of AI

2023/02/23 securityweek —2024年を通じて毎月ごとの発表が予測される、2,900件の新しい脆弱性を分析／トリアージすることを、セキュリティ・チームに期待するのは無理である。１ヶ月に 20件でも十分な成果なのである。効果的なパッチを当てることは、侵入を減らす方法として認められている。しかし、それを達成するのは、ほとんど不可能だ。なにが問題かというと、既知の脆弱性の数が非常に多いこと、そして、それぞれのセキュリティ・チームにおいて、優先的にパッチを当てるべき脆弱性の選別が難しいことに集約される。

Google Magika がオープンソース化：AI でファイルの安全性を識別

Google Open Sources Magika: AI-Powered File Identification Tool

2024/02/17 TheHackerNews — Google は、人工知能 (AI) を搭載したファイル識別ツールである Magika をオープンソース化することを発表した。同社は、「Magika は、従来のファイル識別方法を凌駕するものであり、VBA／JavaScript／Powershell などの、従来は識別が困難であったが潜在的に問題のあるコンテンツに対して、全体として 30％の精度向上と、最大で 95％の高精度を提供する」と述べている。

TensorFlow CI/CD のミスコンフィグへの対応：サプライチェーン攻撃の要因になり得る

TensorFlow CI/CD Flaw Exposed Supply Chain to Poisoning Attacks

2024/01/18 TheHackerNews — オープンソースの機械学習フレームワーク TensorFlow で発見された CI/CD (integration and continuous delivery ) のミスコンフィグが、サプライチェーン攻撃の組織化のために悪用された可能性があるという。今週のレポートで Praetorian の研究者である Adnan Khan と John Stawinski は、「このミスコンフィグを悪用する攻撃者が、悪意のプルリクエストを通じて TensorFlow のビルド・エージェントを侵害し、GitHub／PyPi 上の TensorFlow リリースのサプライチェーンを侵害した可能性がある」と述べている。

Email の悪夢 2023：ユーザー組織の 94% がメール・フィッシング攻撃に悩まされている

Email Nightmare: 94% of Firms Hit by Phishing Attacks in 2023

2024/01/16 InfoSecurity — セキュリティ・プロバイダ Egress によると、2023年のサイバー・セキュリティの意思決定者の 94％が、フィッシング攻撃への対処が必要であったことで、E メール・セキュリティはセキュリティ専門家にとって最重要課題であったという。Egress の Email Security Risk Report 2024 によると、この数値は前年と比べて 2% 増加しているようだ。2023年を通して使用されたフィッシング手法の Top-3 は、悪意の URL／マルウェアやランサムウェアの添付ファイル／侵害されたアカウントから発信される攻撃である。

ランサムウェア 2023年のトレンドは暴露恐喝：１週間の平均攻撃回数は 1158 回

Ransomware Surge: 1 in 10 Organizations Targeted Globally in 2023

2024/01/16 SecurityOnline — 2023 年において、この世界は、かつてないほどのサイバー脅威の急増に直面した。この年のサイバー攻撃件数は、前年比で１% 増という最高記録に達し、世界全体における平均攻撃回数 (週) は 1158 回に達した。

WordPress AI Engine プラグインの脆弱性 CVE-2023-51409 が FIX：RCE にいたる恐れ

CVE-2023-51409: The Severe Vulnerability Threatening 50,000 WordPress Sites

2024/01/09 SecurityOnline — AI Engine プラグインは、50,000 以上のアクティブなインストールを持つ人気の WordPress プラグインだが、先日に深刻なセキュリティ脆弱性が発見された。この、認証を必要としない任意のファイル・アップロードを許してしまう、脆弱性 CVE-2023-51409 により、このプラグインを使用している Web サイトに深刻なリスクが生じている。

Hugging Face／GitHub で API トークンが流出：AI を活用する企業が危険にさらされる

Major Organizations Using ‘Hugging Face’ AI Tools Put at Risk by Leaked API Tokens

2023/12/05 SecurityWeek — Hugging Face／GitHub などのコード・リポジトリに、誤って公開されている 1,600以上の有効な Hugging Face API トークンを、AI サイバー・セキュリティ・スタートアップである Lasso が発見した。トークンなどの機密情報が流出し悪用されると、きわめて高いリスクにいたることから、コードホスティング・プラットフォームやセキュリティ研究者たちかは、以前から注視し続けている。LLM (Large Language Models) を統合する開発者や企業は、Hugging Face API トークンにより、Hugging Face リポジトリの管理を可能にする。

Google が公表した RETVec：Gmail からスパムや敵対行為を取り除くベクタラーザーとは？

Google Unveils RETVec – Gmail’s New Defense Against Spam and Malicious Emails

2023/11/30 TheHackerNews — Google が公開したのは、RETVec (Resilient and Efficient Text Vectorizer の略) と呼ばれる新たな多言語テキスト・ベクタライザーである。それにより、Gmail 内のスパムや悪意のメールなどの、有害と推定されるコンテンツの検出が推進される。GitHub 上のプロジェクト説明には、RETVec は、挿入／削除／タイプミス／ホモグリフ／ LEET 置換などなどの、文字レベルでの悪意の操作に対して、回復力を持つように訓練されている。RETVec モデルは、すべての UTF-8 文字と単語を効率的に変換するための、新たな文字エンコーダー上で学習される」と記されている。

VirusTotal における AI の活用：マルウェア検出が 70% も向上している

AI Boosts Malware Detection Rates by 70%

2023/11/29 InfoSecurity — 脅威インテリジェンス共有プラットフォーム VirusTotal が発表したのは、マルウェア分析を強化するサイバー防御者たちが、AI を活用する方法を示す新たな調査結果である。VirusTotal が、この調査を通じて明らかにしたのは、AI が悪意のコードの解析に対して極めて有効であり、従来の手法と比較して 70% も多くの、悪意のスクリプトを特定する能力を持っていることだ。

IT 予算の調査：セキュリティ対策に充てられているのは僅か９％ – Vanta

Only 9% of IT budgets are dedicated to security

2023/11/20 HelpNetSecurity — Vanta の調査によると、最善の努力を尽くしているにもかかわらず、企業の 67％がセキュリティとコンプライアンス対策を改善する必要があると回答しており、24％が後手に回っていると評価しているという。ポスト・パンデミックのハイブリッド世界における攻撃対象の拡大／チームや予算の縮小／生産系 AI の急速な台頭などが相まって、企業にとって急務となっているのは、セキュリティ態勢の改善と証明である。

Apache Submarine の脆弱性 CVE-2023-46302 が FIX：RCE にいたる可能性

CVE-2023-46302: Critical Apache Submarine RCE Vulnerability

2023/11/19 SecurityOnline — Apache Submarine で発見された脆弱性 CVE-2023-46302 は、深刻なリモートコード実行 (RCE) を引き起こす可能性のあるものだ。この、End-to-End 機械学習 (ML) プラットフォームの脆弱性は、snakeyaml (CVE-2022-1471) のセキュリティ欠陥に起因しており、脆弱なシステム上での任意のコードを実行するものであり、 Apache Submarine ユーザーに深刻な脅威をもたらす。

CISA による AI セキュリティの取り組み：５つの項目で構成されるフレームワーク

CISA Outlines AI-Related Cybersecurity Efforts

2023/11/15 SecurityWeek — 11月14日に米国の CISA (Cybersecurity and Infrastructure Security Agency) は、セキュリティ向上のための人工知能 (AI) の利用促進や、重要インフラ組織への AI 導入支援に関する取り組みを詳述する、新たなドキュメントを発表した。国家 AI 戦略に沿った CISA の Roadmap to AI (PDF) は、サイバー・セキュリティ能力の強化における AI の有効利用を促進し、AI システムを脅威から守ることに加えて、AI を悪用する脅威アクターから重要インフラを保護する取り組みについても詳述している。

ChatGPT の停止：OpenAI が DDoS 攻撃を認め Anonymous Sudan が犯行を主張

OpenAI confirms DDoS attacks behind ongoing ChatGPT outages

2023/11/09 BleepingComputer — OpenAI の “周期的な停止” だが、この 24時間で発生した API と ChatGPT サービスを標的とする DDoS 攻撃が原因のようだ。このインシデントの根本的な原因について、OpenAI は詳細を提供しなかったが、今日の未明になって、進行中の分散型サービス拒否 (DDoS) 攻撃に関連していることを認めた。OpenAI のインシデント・レポートには、「DDoS 攻撃と思われる異常なトラフィック・パターンによる周期的な停止に対処している。私たちは、この問題を軽減するための作業を続けている」と述べている。

GitHub の AI 拡張：３つの機能のパブリック・プレビューを発表

GitHub Enhances Security Capabilities With AI

2023/11/08 SecurityWeek —

今日、Microsoft 傘下の GitHub が、GitHub Advanced Security の AI を活用しする、３つの機能のパブリック・プレビューを発表した。GitHub Enterprise Cloud および Enterprise Server の顧客向けに提供される Advanced Security により、コードの品質を維持／向上するための一連の機能が提供される。Dependabot などの機能の一部は、公開リポジトリでも利用できる。

UK AI Safety Institute が設立： AI の未来への青写真とは？

UK AI Safety Institute: A Blueprint for the Future of AI?

2023/11/03 InfoSecurity — 英国の Frontier AI Taskforce は、2023年4月にファウンデーション・モデル・タスクフォースとして発足した政府出資のイニシアチブである。しかし同機関は、英国 AI Safety Institute へと進化しつつある。Rishi Sunak 英国首相は、2023年11月2日に英国ブレッチリー・パークで開催された AI Safety Summit の閉会スピーチで、同研究所の設立を発表した。この新組織における英国政府の目的は、新たなタイプのAI の安全性テストを任務とする世界的なハブにすることだと、Sunak 首相は述べている。

AI Safety Summit：OWASP が各国政府に対して AI セキュリティ基準の採用を要求

AI Safety Summit: OWASP Urges Governments to Agree on AI Security Standards

2023/11/02 InfoSecurity — OWASP (Open Worldwide Application Security Project) によると、AI の急速な普及がもたらす危険を軽減するためには、AI を搭載するツールがもたらすセキュリティと倫理的リスクに関する、トップレベルの議論だけでは、もはや不十分だという。2023年11月1日～2日にイギリスのブレッチリー・パークで開催された AI Safety Summit に先立ち、この非営利団体はサミット参加者に対して、実用的な AI セキュリティ標準に合意し採用することを、迅速に推進すべきという行動喚起を促している。