GoogleがAIで通話内容を聞いて詐欺を検出する「詐欺検出機能」をリリース

AIで通話内容を精査し、詐欺と思われる会話があれば音声と触覚フィードバック(振動)で知らせる詐欺検出機能をGoogleがリリースしました。
Google Online Security Blog: Safer with Google: New intelligent, real-time protections on Android to keep you safe
https://security.googleblog.com/2024/11/new-real-time-protections-on-Android.html
Live Scam Detection in calls rolling out to Pixel 6-9 Phone app
https://9to5google.com/2024/11/13/pixel-phone-scam-detection/
Googleの詐欺検出機能は、会話の内容をAIが聞き、詐欺によくある会話パターンを検出した場合にユーザーへ知らせるものです。
例えば、銀行を名乗る電話がかかってきて、相手が「口座情報が流出した疑いがあるため、緊急に送金してほしい」といった内容を口にしたときに検出されます。AIが詐欺の疑いがある会話を検出すると、音声と触覚フィードバックで警告し、視覚的にも情報を伝えます。

詐欺検出機能はデフォルトでオフになっており、ユーザーが任意でオンにできます。後から完全にオフにしたり、通話の最中にオフにしたりすることも可能。Googleは「この機能はプライバシーで保護されています。AIによる検出および処理は完全にデバイス上で行われるため、Googleのサーバーやその他の場所に送信されることはありません。また、デバイス上に保存されることもありません」と述べました。
詐欺検出機能は、まずGoogle Pixel 6以降の端末向けに配信されます。記事作成時点で、アメリカ国内で電話アプリのベータ版を使用しているユーザー向けに、試験的に提供されています。将来的には他のAndroidデバイスでも利用できるようになる予定です。

詐欺検出機能のリリースに加え、Googleのデバイス保護ツール「Google Playプロテクト」のアップデートも告知されています。Googleによると、Google Playプロテクトに「ライブ脅威検出機能」を追加し、有害なアプリを検出した場合はリアルタイムでアラートを表示して、デバイスを保護するためのアクションを即座に実行できるようにしたとのこと。
Googleは「ライブ脅威検出機能は、ユーザーの同意なしに監視目的で個人データや機密データを収集する可能性のあるコード、いわゆるストーカーウェアに焦点を当てます。コードだけでなくアプリの実際の活動パターンを調べることで、自分の動作を隠そうとしているアプリや、隠れている有害なアプリを見つけられます。これらの保護はすべて、データを収集することなくユーザーを保護する『Private Compute Core』を通じて、プライバシーを保護する方法で行われます」と話しました。

ライブ脅威検出機能はPixel 6以降の端末で利用可能で、今後数カ月のうちに他メーカーのスマートフォンにも提供される予定です。
Googleは「詐欺師は人々から年間1兆ドル(約150兆円)以上を盗んでおり、電話は最もよく使われる手段です。さらに憂慮すべきことに、詐欺電話は進化しており、ますます巧妙になり、被害が拡大し、特定が難しくなっています。そこで私たちは、GoogleのAIを最大限に活用し、詐欺検出機能で詐欺を特定し、被害が及ぶ前に阻止します」と述べました。