Gemini Nano vs. テック・サポート詐欺：Chrome の新機能で即時検出

Google Chrome to use on-device AI to detect tech support scams

2025/05/09 BleepingComputer — Google が発表したのは、組み込みの LLM である Gemini Nano を活用する、新しい Chrome セキュリティ機能の実装である。その機能はというと、Web の閲覧中にテクニカル・サポート詐欺を検出／阻止するものだ。テクニカル・サポート詐欺とは、悪意の Web サイトでユーザーを欺き、その PC にウイルス感染やシステム不具合が生じていると見せかける手口である。それらの悪意の警告は、フルスクリーンのブラウザ・ウィンドウやポップアップとして表示され、ユーザーの操作を妨げる特徴がある。

脅威アクターたち目的は、記載される電話番号へと被害者に連絡させ、サポートを依頼させ、不要なリモート・サポートのサブスクリプションの契約や、デバイスへのリモート・アクセス権を得ることにある。それにより、金銭的な損失や、データの窃取が引き起こされる恐れがある。

Google Chrome 137 では、AI 機能がブラウザ内でダイレクトに動作し、プライバシーに配慮したサポートが高速で実現される。

Chrome の新しい詐欺対策システムは、“Enhanced Protection” に統合されており、Web ページをリアルタイムで分析し、偽のウイルス警告や全画面ロックなどの、テクニカル・サポート詐欺に見られる典型的な兆候を検出する。

この分析は、Gemini Nano を用いて、ユーザーのデバイス上でオフライン実行される。詐欺の兆候と一致するパターンが検出されると、LLM の出力とサイトのメタデータが、Google Safe Browsing に送信され、より詳細な評価が行われる。

詐欺的な目的や悪意の挙動が確認された場合に Chrome は、リスクを通知する警告メッセージをユーザーに表示する。

この新機能は、ユーザーのプライバシーを尊重し、パフォーマンスへの影響は最小限に抑えられていると、Google は説明している。しかし、現時点での同社の発表では、詳細な情報はほとんど明かされていない。

同社は、「すべての機能は、パフォーマンスとプライバシーを保護する形で実行されている。具体的には、ごく限られた場面でのみ LLM が活用され、また、ローカル環境で実行されるように設計されている。さらに、使用トークン数の制御／ブラウザの動作を妨げない非同期処理の採用に加えて、GPU 使用量を制限するためのスロットリングやクォータ強制メカニズムの実装といった、リソース消費を慎重に管理する手法が用いられている」と述べている。

この、AI を活用する新たな保護機能は、来週にリリース予定の Chrome 137 で実装される。Chrome を最新バージョンにアップグレードし、Safe Browsing の設定で “Enhanced Protection” を有効にしたユーザーには、デフォルトで自動的に適用される。

設定手順：Chrome Settings > Privacy and Security > Security > Enhanced Protection を有効にする

Google は、今後のリリースにおいて、この機能を拡張し、偽の荷物配達通知や通行料請求などの、他のタイプの詐欺も検出できるようにする計画だとしている。Android 版 Chrome にも、この機能が、2025 年中に追加される予定だ。

2025年1月には、Microsoft Edge にも、同様の詐欺対策機能が導入されている。それは、特別に訓練された機械学習モデルを活用して、ユーザーを標的とする詐欺を検出／阻止する仕組みである。

これも、AI 活用の最前線ですね。たしかに、このところ、フェイク・アップデートによるフィッシングが増えているように感じます。プッシュに反応しなければ被害に合わずに済むはずですが、文中で指摘されるような意地悪に負けてしまう可能性もあります。嫌なところを突いてくるものです。ここは、Google に踏ん張ってもらいたいところです。よろしければ、Phishing で検索も、ご参照ください。