AI / ML はサイバー・セキュリティにとって諸刃の刃

7 Ways AI and ML Are Helping and Hurting Cybersecurity

2021/07/19 DarkReading — 人工知能 (AI: Artificial Intelligence) と機械学習 (ML: Machine Learning) は、いまでは日常生活の一部となっており、それにはサイバー・セキュリティへの応用も含まれる。適切な人の手にかかれば、AI/ML により脆弱性を特定し、インシデントへの対応時間を短縮することが可能だ。しかし、サイバー犯罪者の手にかかれば、大きな被害を生み出す可能性もある。ここでは、AI/ML がサイバー・セキュリティに与える、7つのポジティブな影響と、7つのネガティブな影響を紹介していく。

サイバー・セキュリティにおける AI/ML の7つのポジティブな影響

・不正と異常の検知:AI ツールがサイバー・セキュリティを救援する際の、最も一般的な手法である。複合的な詐欺検出 AI エンジンは、複雑な詐欺のパターンを認識する上で優れた結果を示している。不正検知システムの高度な分析ダッシュボードは、インシデントに関する包括的な詳細情報を提供する。これは、異常検知という一般的な分野の中でも、きわめて重要な領域となる。

・スパムメール・フィルター:防御的なルールを用いて、疑わしい単語を含むメッセージをフィルタリングし、危険なメールを識別する。さらに、スパム・フィルターはメール・ユーザーを保護し、不要な通信の確認にかかる時間を短縮する。

・ボットネット検知:スーパーバイザの有無に関わらず、ML アルゴリズムは検知を容易にするだけではなく、高度なボット攻撃を防ぐことを可能にする。また、ユーザーの行動パターンを特定することで、未検知の攻撃を見分けることを可能にするが、その誤検知率は極めて低い。

・脆弱性の管理:脆弱性の管理 (マニュアル or テクノロジーツール) には難しいことがあるが、AI システムにより容易にできる。AI ツールにより、ベースラインとなるユーザーの行動や、エンドポイント、サーバー、ダークウェブでの議論などを分析することで、潜在的な脆弱性を探し出し、コードの脆弱性を特定することで、攻撃を予測する。

・マルウェア対策:AI を用いるアンチウイルス・ソフトウェアは、善意/悪意のファイルの検出に役立ち、初めて見る新しい形態のマルウェアであっても、その識別を可能にする。従来の手法から、AI を用いた手法に完全に置き換えることで、検知を迅速に行うことが可能になるが、誤検知も増えてしまう。従来の手法と AI を組み合わせることで、マルウェアを 100%検知することが可能になる。

・データリークの防止:AI は、テキストおよび非テキスト形式のドキュメント内で、特定のデータ・タイプを識別するのに役立つ。学習可能な分類機能に対して、それぞれの機密情報タイプを検出するよう教えることが可能である。これらの AI アプローチで、適切な認識アルゴリズムを用いることで、画像/音声/ビデオ内のデータを検索することも可能になる。

・SIEMとSOAR:ML により SIEM (Security Information and Event Management) および SOAR (Security Orchestration Automation and Response) ツールを利用して、データの自動化やインテリジェンスの収集、不審な行動パターンの検出、入力に応じた対応の自動化などを向上させる。

AI/MIは、ネットワーク・トラフィック分析や、侵入検知システム、侵入防止システム、セキュア・アクセス・サービス・エッジ、ユーザーやエンティティの行動分析、そして Gartner の Impact Radar for Security に記載される、ほとんどの技術領域で使用されている。実際のところ、現代のセキュリティ・ツールにおいて、何らかの AI/ML マジックを持たないものは考えられない。

サイバー・セキュリティにおける AI/ML の7つのネガティブな影響

・データの収集:ソーシャル・エンジニアリングなどを介して、被害者の詳細なプロファイル収集のために ML が利用され、この情報を活用することでサイバー攻撃が加速される。たとえば、2018年には WordPress の Web サイトで、ML を利用した大規模なボットネット感染が発生し、ハッカーがユーザーの個人情報にアクセスできるようになった。

・ランサムウェア:ランサムウェアにより、不幸のルネッサンスを経験することになった。犯罪者のサクセス・ストーリーが数多く知られている。最も悪質なインシデントの1つは、Colonial Pipeline の6日間のシャットダウンと、$4.4 million の身代金支払いを生み出した。

・スパム/フィッシング/スピアフィッシング:ML アルゴリズムは、本物に似せた偽のメッセージを作成し、ユーザーの認証情報を盗むために利用できる。Black Hat のプレゼンテーションで、John SeymourとPhilip Tully は、ML アルゴリズムが偽のフィッシング・リンクを含むバイラル・ツイートを作成し、人間が作成したフィッシング・メッセージと比べて4倍の効果があったと説明している。

・ディープフェイク:ボイス・フィッシングにおいて、詐欺師たちは ML で生成されたディープフェイク・オーディオ技術を使い、より成功率の高い攻撃を行っている。Baidu の “Deep Voice” のような最新のアルゴリズムを使えば、人の声を数秒聞かせるだけで、その人の話し方や、アクセント、トーンなど再現できる。

・マルウェア:ML によりノードやエンド・ポイントの動作が追跡されると、被害者のネットワーク上の正当なネットワーク・トラフィックの模倣が行われ、同じパターンを踏襲するマルウェアを隠すことが可能になる。また、攻撃の速度を増幅させる、自己破壊的なメカニズムをマルウェアに組み込むこともできる。このアルゴリズムは、人間よりも速くデータを抽出できるように訓練されているため、防ぐことが極めて難しくなる。

・パスワードと CAPTCHA:ニューラル・ネットワークを搭載したソフトウェアは、人間の認識システムを簡単に破ることができると主張している。ML を利用することで、サイバー犯罪者は膨大なパスワードのデータセットを分析し、パスワードの推測をより正確に行うことができる。たとえば、PassGAN (Generative Adver- sarial Network) は ML アルゴリズムを用いて、従来の技術による一般的なパスワード・クラッキング・ツールと比べて、より正確にパスワードを推測する。

・AI/MLへの攻撃:医療や軍事など、価値の高い分野のコアで機能するアルゴリズムを悪用すれば、災害につながる可能性が生じる。Berryville Institute of Machine Learning の Architectural Risk Analysis of Machine Learning Systems では、MLに対する既知の攻撃を分類/分析し、ML アルゴリズムのアーキテクチャ・リスク分析が可能である。セキュリティ・エンジニアは、ML アルゴリズムのライフサイクルにおける各段階で、安全性を確保する方式を学ぶ必要がある。

AI/ML が注目されている理由は容易に理解できる。巧妙なサイバー攻撃に対抗するには、AI の潜在能力を防御に利用する他に方法はない。企業は、トラフィック・パターンやヒューマン・エラーなどの異常を検知する際に、ML が極めてパワフルなものになることに気づく必要がある。適切な対策を講じることで、起こりうる被害を未然に防ぐことや、大幅に低減することも可能である。総合的に見て、AI/ML はサイバー脅威からの保護に極めて役立つ。政府や企業の中には、サイバー犯罪者に対抗するために、AI/ML の利用や検討を進めているところもあるだろう。AI/ML にまつわるプライバシーや倫理的な懸念は正当なものだが、AI/ML によるセキュリティの保護が規制されないよう、政府は考えなければならない。なぜなら、周知の通り、サイバー犯罪者は規制に従わないからだ。

この記事は、DataArt の Information Security Officer である Vadim Chakryan と、Executive Vice President である Eugene Kolker の協力により執筆されている。

たしかに、AI も ML もコモディティ化しているわけで、そうなれば脅威アクターたちが使いこなすのも時間の問題でしょう。もう、すでに、悪用されているケースもあるのかもしれません。AI というと、生存本能を持たせた AI と人類が対峙し、最後には理解し合うという、JPホーガンの「未来の二つの顔」を思い出します。もし、ランサム・ギャングの生存本能を埋め込んだ AI なんぞが出てきたら、いったい、どうなるんでしょう。考えるだけで、恐ろしくなります。

%d bloggers like this: