Bing Chat チャットに御用心：マルウェアのダウンロードを推奨されることもある

Bing Chat responses infiltrated by ads pushing malware

2023/09/28 BleepingComputer — OpenAI の GPT-4 エンジンを搭載した Bing Chat が、検索業界における Google の優位性に挑戦するために、2023年2月から Microsoft により展開されている。従来の検索クエリや検索結果の形式ではなく、インタラクティブなチャット・ベースのエクスペリエンスをユーザーに提供することで、オンライン検索をより直感的でユーザー・フレンドリーにすることを、Bing Chat は目指している。そして Microsoft は、この新しいプラットフォームから収入を得るために、2023年3月から Bing Chat に広告を挿入し始めた。


しかし、Bing Chat に広告を組み込むことで、検索広告を悪用してマルウェアの配布に使用する、脅威アクターたちに門戸を開くことになってしまった。さらに、AI を搭載するチャット・ツールとの会話により、不適切な信頼を植え付けられたユーザーが、それらの広告をクリックする可能性が高まる。

この会話のようなやりとりは、AI が提供する URL に対して、誤った権威と信頼感を植え付ける可能性があるため、検索プラットフォームにおける不正広告の問題は、AI アシスタントの導入により増幅されるという。

Bing Chat の会話において、ユーザーがリンクにマウスを乗せると、それらが推奨される広告だとラベル付けされるだけでは、リスクの軽減において脆弱すぎる対策に思える。

人気の IP スキャナーを模倣

Malwarebytes により発見された悪質な広告は、人気の “Advanced IP Scanner” ユーティリティのダウンロード・サイトを装っている。研究者たちが Bing Chat に対して、Advanced IP Scanner のダウンロード方法を尋ねると、チャット内にダウンロードへのリンクが表示された。

しかし、チャット内で下線の引かれたリンクにカーソルを合わせると、Bing Chat は最初に広告を表示し、その後に正規のダウンロードリンクを表示することがあることも判明した。しかし、この場合のスポンサー・リンクは、マルウェアをプッシュする malvertisements であったという。

The risky URL served in a Bing Chat conversation
Bing Chat の会話で表示された危険な URL
Source: Malwarebytes

この不正広告キャンペーンは、オーストラリアの合法的な企業の広告アカウントに対して、ハッキングを行った何者かにより作成されていた。具体的な標的は、システム管理者 (Advanced IP Scanner) と弁護士 (MyCase law manager) をである。

Malicious ads created by the threat actor
脅威アクターによって作成された悪意のある広告
Source: Malwarebytes

Advanced IP Scanner の悪意の広告をクリックすると、ボット／クローラーと人間を区別する Web サイト (‘mynetfoldersip[.]cfd’) への誘導が行われ、IP アドレス／タイムゾーン／サンドボックス／仮想マシンなどのシステム指標がチェックされる。

その後に、被害者となる人間は、Advanced IP Scanner のクローンである “advenced-ip-scanner[.]com” にリダイレクトされ、訪問者を騙すためのタイポスクワッティング (advenced の e に注目) が使用される。

The redirect chain
リダイレクト・チェーン (Malwarebytes)

ダウンロードされた MSI インストーラには、３つのファイルが含まれている。そのうちの１つは、ペイロードを取得するために外部リソースへと接続するための、高度に難読化された悪意のスクリプトである。

Malicious VBS in the downloaded MSI
ダウンロードされた MSI 内の悪意のある VBS (Malwarebytes)

残念ながら Malwarebytes は、このマルウェア・キャンペーンの最終的なペイロードを見つけることができなかった。したがって、最終的にインストールされたマルウェアの詳細は不明である。

しかし、同様のキャンペーンで脅威アクターたちが配布するのは、情報窃取型のマルウェアもしくは、企業ネットワークなどへの侵入を可能にする、リモート・アクセス型トロイの木馬などである。

Bing Chat のチャットにおいて、悪質なマルバタイジングが表示されることは、サイバー脅威の拡大を浮き彫りにしている。ユーザーとって極めて重要なことは、チャットボットが提示する結果に注意し、何かをダウンロードする前には必ず、URL をダブル・チェックすることだ。

どこかに、似たような話があったと思い調べてみたら、2023/06/06 に「ChatGPT が推奨する OSS パッケージは安全なのか？ LLM に悪意を埋め込む PoC が公開」という記事がありました。こちらは、OSS のパッケージ関するトピックですが、基本的な悪意の構造は同じですね。検索結果に含まれる広告には、いろんな問題が潜んでいるようです。