X の Grok AI が手助け：ブロックを回避して悪質な広告やマルウエアを展開する手法とは？

Threat actors abuse X’s Grok AI to spread malicious links

2025/09/03 BleepingComputer — X に搭載されている AI アシスタント Grok を悪用する脅威アクターが、このプラットフォームが悪質広告の抑制を目的として導入した、リンク投稿への制限を回避している。Guardio Labs の研究員 Nati Tal によると、この広告主はアダルト・コンテンツなどの怪しい動画広告を掲載することが多く、意図的に本文にリンクを取り込まず、X によるブロックを迂回しているという。

その代わりに、この脅威アクターは、動画カード下にある小さな “From:” メタデータ・フィールドにリンクを隠している。このフィールドに対しては、X による悪質リンク・スキャンが行われていない。

続いて、おそらく同じ脅威アクターが、広告への返信として、 Grok に対して「この動画の出所は？」「この動画へのリンクは？」と質問する。

Grok は隠された “From:” フィールドを解析し、クリック可能な形式で悪質リンク全体を返信する。それによりユーザーは、リンクをクリックして悪質サイトへのアクセスが可能になる。

Grok は、X プラットフォーム上で自動的に信頼されたシステム・アカウントとなるため、その投稿はリンクにより、信頼性／リーチ／SEO／評判などが高められ、多くのユーザーに拡散される可能性がある。

さらに、研究者が発見したのは、これらのリンクの多くが、怪しい広告ネットワークを経由し、偽の CAPTCHA テスト／情報窃取型マルウェアの悪質なペイロードなどの、詐欺行為につながっていることだった。

これらのリンクは X によるブロックを回避し、悪質広告を通じてユーザーに宣伝され、さらに Grok により強化される。

Nati Tal は、この抜け穴を悪用する手法を “Grokking” と呼んでいる。それは、きわめて効果的であり、悪質広告を数百万インプレッションにまで増幅させる可能性があると指摘する (以下参照)。

解決策としては、すべてのフィールドをスキャンすること、非表示リンクをブロックすること、Grok にコンテキスト・サニタイズを追加することなどが挙げられる。それにより、この AI アシスタントは、ユーザーからの問い合わせに対してリンクを盲目的にエコーするのではなく、フィルタリングしてブロックリストを照合する。

この問題は Nati Tal から X に報告され、Grok エンジニアによる受領が非公式に確認されている。

BleepingComputer も X 社に連絡を取り、この不正行為を認識しているかどうか、また、対策を講じる予定があるかと尋ねたが、この記事の掲載時点では、回答が得られていない。

X に導入された AI アシスタント Grok の挙動を悪用し、悪質広告やマルウェアを展開する脅威アクターが登場したようです。この攻撃者は、悪意のリンクを、本文ではなく “From:” メタデータ欄に隠しました。この欄はスキャン対象外であり、さらに Grok が解析してユーザーにクリック可能な形で返信してしまうという問題が生じているようです。この攻撃は、X のコア機能を悪用しているため、それを修正することは、とても難しいことだと思います。よろしければ、カテゴリ AI/ML を、ご参照ください。