LLMjacking という新しいサイバー犯罪：Azure AI Abuse スキームを操る脅威アクターを追跡

Microsoft Exposes LLMjacking Cybercriminals Behind Azure AI Abuse Scheme

2025/02/28 TheHackerNews — Microsoft は 2025年2月27日 (木) に、GenAI サービスへの不正アクセスにより不快かつ有害なコンテンツを作成する、Azure Abuse Enterprise スキームを背後で操る４人の人物の正体を明かした。この LLMjacking と呼ばれるキャンペーンは、Microsoft Azure OpenAI サービスなどの各種 AI サービスを標的にするものである。Microsoft は、このサイバー犯罪ネットワークを Storm-2139 として追跡している。

正体を明かされた人物は、以下のとおりである：

  • イランの Arian Yadegarnia：別名 “Fiz”
  • イギリスの Alan Krysiak ：別名 “Drago”
  • 中国／香港の Ricky Yuen ：別名 “cg-dot”
  • ベトナムの Phat Phung Tan ：別名 “Asakuri”

Microsoft’s Digital Crimes Unit (DCU) の Steven Masada は、「Storm-2139 のメンバーは、公開情報源から収集した顧客の認証情報を悪用して、特定の GenAI サービスのアカウントに違法にアクセスした。その後に、彼らはサービスの機能を変更して、他の脅威アクターたちにアクセス権を転売し、同意のない著名人の画像や、性的なコンテンツなどの、有害で違法なコンテンツを生成する方法について詳細な指示を与えた」と述べている。

この悪意のアクティビティは、GenAI システムのセーフティ・ガードレールを、明確に回避する方法で実行されていると、同社は付け加えている。

以前にも Microsoft は、複数の米国企業を含む複数の顧客から、組織的に API キーを盗み出した犯罪者が、そのアクセスを他の脅威アクターに収益化させたとして、法的措置を講じると発表している。この件から、１か月余ほどが過ぎたところで、今回の告発が行われたことになる。

今回の件では、脅威アクター・グループにおける、犯罪活動の重要な部分だと推測される Web サイト “aitism[.]net” を差し押さえる裁判所命令も取得したという。

Storm-2139 への告発は、AI サービスの悪用を可能にする違法ツールの開発と作成者、および、これらのツールを各種の価格で顧客に提供するプロバイダー／それらを使用して Microsoft の許容使用ポリシーと行動規範に違反する、合成コンテンツを生成するエンドユーザーという、３つの大まかなカテゴリで構成されている。

Microsoft は、イリノイ州とフロリダ州に拠点を置き、米国に所在する、さらに２人のアクターを特定したと述べた。彼らの身元は、犯罪捜査の妨げにならないように非公開となっている。

その他の、名前が明かされていない共謀者／プロバイダー／エンド・ユーザーは、以下のとおりである：

  • 米国在住と思われる John Doe：別名 “DOE 2”
  • オーストリア在住と思われる John Doe：別名 “DOE 3″／”Sekrit”
  • 米国在住と思われる人物：別名 “Pepsi”
  • 米国在住と思われる人物：別名 “Pebble”
  • 英国在住と思われる人物：別名 “dazz”
  • 米国在住と思われる人物：別名 “Jorge”
  • トルコ在住と思われる人物：別名 “jawajawaable”
  • ロシア在住と思われる人物：別名 “1phlgm”
  • アルゼンチン在住と思われる John Doe：別名 “DOE 8”
  • パラグアイ在住と思われる John Doe： “DOE 9”
  • デンマーク在住と思われる John Doe： “DOE 10”

Microsoft の Steven Masada は、「脅威アクターたちを追及するには、粘り強さと継続的な警戒が必要である。これらの人物の正体を暴き、悪意のアクティビティ明らかにすることで、Microsoft は AI 技術の悪用との戦いにおける、先例を作ることを目指している」と述べている。

​Azure OpenAI などの GenAI を悪用したキャンペーンが発生しているとのことです。GenAI は私たちにとって便利なツールであるのと同様に、脅威アクターたちにとっても有用なものであるのだということを痛感します。このインシデントは、引き続き、注視していきたいと思います。よろしければ、以下の関連記事も、カテゴリ _AI/ML と併せてご参照ください。

2025/02/13：AI と Security の組み合わせ：この新しいパズルを解こう
2025/02/06：Ollama API と DeepSeek のブーム：AI リスクの可能性
2025/01/30：DeepSeek の挑戦：オープンソース AIと国家安全保障の問題
2025/01/30：DeepSeek からチャット・ログや機密情報が流出
2025/01/15：2025年のセキュリティを考える