AI が作り出すフィッシング・メール：それを見分けることは不可能だ

AI-Generated Phishing Emails Almost Impossible to Detect, Report Finds

2023/10/02 InfoSecurity — AI チャットボットを悪用するサイバー犯罪者たちが、フィッシング・キャンペーンを展開する可能性が懸念されているが、メール・セキュリティ・プロバイダーの Egress によると、AI が作成したフィッシング・メールを検知することは、ほぼ不可能だとのことだ。10月2日に発表された Egress の Phishing Threat Trends Report によると、フィッシング・メールを AI 検知器で分析しても、71.4% の確率で、チャットボットと人間の見分けができないという。


その理由は、AI 検知ツールの仕組みにある。これらのツールの大半は大規模言語モデル (LLM) に基づいているため、サンプル・サイズが長いほど精度が上がり、多くの場合においては、最低で 250文字が必要となる。

その一方では、フィッシング・メールの 44.9% が250文字の要件を満たしておらず、さらに 26.5% が 500文字を下回っているという。つまり、現在のところ AI 検知ツールは攻撃の 71.4%に対して、確実に機能しないことになる。

難読化手法のトップは HTML の盗用

Egress の研究者たちはレポートの中で、難読化技術が前年比で 24.4% も増加したことで、人手によるフィッシング・キャンペーンの検出が、ますます困難になっているとも述べている。その結果として、2023年におけるフィッシング・メールの 55% に、難読化技術が組み込まれることになったという。

また、それらのテクニックは、より洗練されたものとなっており、フィッシング詐欺の 47% では２つの難読化レイヤーが用いられ、31% では１つのレイヤーが用いられている。

15% of phishing campaigns include three obfuscation methods. Source: Egress
フィッシング・キャンペーンの15%は3つの難読化手法を含んでいる。出典 Egress

最も一般的な手口は HTML スマグリングであり、正規の HTML5 や JavaScript の機能を悪用して、HTML ファイルや Web ページへ向けて、悪意のコードをエンコードして埋め込むというものだ。

さらに Egress は、メールフローの 34％ が、”グレーメール” に分類されることも発見した。グレーメールについては、通知／更新／宣伝メッセージなどの、大量に送信される勧誘的なメールのことだと、同社は説明している。これらのメールはフィッシング詐欺の検知を難しくし、受信者がフィッシング・メールをクリックする可能性を高める。

The most common type of payload in 2023 is phishing links to websites (45%), up from 35% in 2022. Source: Egress
2023年に最も多く見られるペイロードのタイプは、ウェブサイトへのフィッシング・リンク (45％) で、2022年の35％から増加している。出典 Egress
記録的なスピードでセキュリティ防御を回避

フィッシング全体の量は増加していないが、サイバー犯罪者が利用する、これらの新しい伝播および難読化の手法により、セキュリティ防御を回避する数は増加している。

たとえば、Microsoft の防御を回避したメールは、2022年と 2023年の比較において、25% 増加している。また、SEG (secure email gateways) 全般を回避したものは、同期間に 29％ 増加している。

Egress の VP of Threat Intelligence である Jack Chapman は、これらの調査結果に基づき、メール・セキュリティの防御者たちは、フィッシング対策のアプローチを変えるべきだと指摘している。

彼は、「従来のメール・セキュリティのアプローチは、エンドユーザーがフィッシングメールを見るのを防ぐという、隔離の手段に大きく依存していたが、私たちのレポートが強調しているように、フィッシング・メールは必然的に通過してしまう。これが、私たちが隔離モデルを見直し、受信トレイ内で脅威を無力化するための、ダイナミック・バナーを追加した理由の１つである。これらのバナーは、わかりやすく、タイムリーで適切な方法で、リスクを明確に説明するよう設計されており、ユーザーを教育するティーチング・モーメントとして機能する。最終的には、フィッシングを捕まえる方法を誰かに教えることが、長期的な回復力を高めるための、より持続可能なアプローチなのだ」とコメントしている。

2023年に最も流行するフィッシング・キャンペーンのトピック

Egress の Phishing Threat Trends Report では、2023年の各月におけるフィッシング・キャンペーンで、最も頻繁に使われたトピックを概説している。以下は、その一例である：

  • 1月 RingCentral のなりすまし
  • 2月 エイリアスなりすまし攻撃者タッカー
  • 3月 HMRC/IRS 通知なりすまし
  • 4月 セキュリティ・ソフトのなりすまし
  • 5月 Sextortion フィッシング／人生を台無しにするもの
  • 6月 宝くじなりすまし
  • 7月 セールスフォース／メタ広告
  • 8月 ギーク・スクワッド
  • 9月 クレジットカード決済

フィッシング・メール事情を、解りやすく説明してくれる記事ですね。つまり、悪意のメールを分析して、それらが人手によるものなのか、AI によるものなのかを分類すること事態が、すでに不可能／無意味になっているということなのでしょう。また、難読化技術が、これほどまでに多層化されているという実態も驚かされました。Egress が言うように、考え方を変える必要がありそうです。