ChatGPT で作成されたポリモーフィックなマルウェア・サンプルを検出 – WithSecure 報告

AI Used to Create Malware, WithSecure Observes

2023/05/25 InfoSecurity — サイバー・セキュリティの世界では、脅威アクターの手に渡った AI がもたらす潜在的な脅威について、警鐘が鳴り続けている。その中でも、ChatGPT で作成されるマルウェアは、現実のものとなっているようだ。WithSecure の CEO である Juhani Hintikka は、ChatGPT により生成されたマルウェアのサンプルを、同社が発見したことを認めている。

Hintikka は Infosecurity に対して、「ChatGPT は、同じ質問に対して異なる回答を提供する機能を備えている。この機能を悪用して、マルウェアの異なるバリエーションを大量に生成することも可能だ。それにより、マルウェアは検知され難くなる」と語っている。

また、WithSecure の Head of Threat Intelligence である Tim West は、ChatGPT を使用して作成されたマルウェアが、ポリモーフィックであるという事実により、防御側にとって困難さが増すと付け加えている。

Hintikka は、「従来において AI は、我々も含めた業界の防御側で使用され、攻撃側は手動で攻撃を行ってきた。しかし現在は、それが変わりつつあると思う」と述べている。脅威アクターは、すでにリモート・アクセス・ツールのような正規のソフトウェアを使用しており、彼らが容易に利用できる AI を使い始めることは理にかなっていると言える。

West は、「良くも悪くも ChatGPT は、ソフトウェア・エンジニアリングをサポートし、その一方では、マルウェアを開発する脅威アクターの参入障壁を下げている」と述べている。 たとえば、フィッシング・キャンペーンのメールでは、AI と LLM (Large Language Models) を使用して、説得力のあるＥメール／ソーシャルメディア・メッセージ／ターゲット・テキストなどを作成することが可能だ。

Hintikka は、「これまでは、怪しいものや、疑わしいものを人間が識別できた。しかし、今後は、それがずっとずっと難しくなるだろう」と述べている。

犯罪行為の効率化を促進

WithSecure の Senior Threat Intelligence Analyst である Stephen Robinson によると、現在、サイバー犯罪のギャングや組織は、合法的な企業を模倣して進化しているという。

Robinson は、ランサムウェアは儲かるビジネスであるため、これらの犯罪グループは、活動をサプライヤーにアウトソーシングすることで効率よく投資できるようになり、ほとんどギグ・エコノミーのようなものになったと述べている。

また Hintikka は、脅威アクターの AI 利用についても触れながら、「残念なことに、犯罪グループも大規模化しているため、投資する手段を持っている。これからは、良い AI と悪い AI のゲームになっていくだろう」とコメントしている。

ついに、ChatGPT で作成されたマルウェア・サンプルが検出されたようです。だたし、WithSecure と ChatGPT で検索してみましたが、そのソースは見つかりませんでした。2023/01/18 の「ChatGPT でマルウェア開発：継続的な変異により捕捉／検出が困難になる」で、すでに警鐘が鳴らされていましたが、ポリモーフィックな特性を持つことで、防御側にとって困難さが増すことになるはずです。よろしければ、ChatGPT で検索も、ご利用ください。