Google検索のAI機能「Search Generative Experience」がスパムや詐欺的なサイトを含んだ回答をしてくるという指摘

Googleは生成AIを自社ツールに統合する試みを進めており、Google検索にはユーザーの質問に詳細な回答をする「Search Generative Experience」というツールを搭載しています。2024年3月にはSearch Generative Experienceを一般ユーザーに展開するテストがアメリカで開始されましたが、「Search Generative Experienceがスパムや詐欺的なウェブサイトを含んだ回答をしてくる」という声が上がっています。
Google AI search tool surfaces scams, malicious links • The Register
https://www.theregister.com/2024/03/25/googles_aipowered_search_results_are/
Google's new AI search results promotes sites pushing malware, scams
https://www.bleepingcomputer.com/news/google/googles-new-ai-search-results-promotes-sites-pushing-malware-scams/
Search Generative Experienceは、Google検索ユーザーの質問についてAIがインターネット上の情報をまとめ、自然な回答を生成するというものです。これまでは試験運用版をオプトインした一部のユーザーのみが使用可能でしたが、2024年3月にアメリカの一部のユーザーを対象にしたSearch Generative Experienceのテストが開始されました。
マーケティング会社・AmsiveのSEO戦略・リサーチ担当バイスプレジデントであるリリー・レイ氏は、オプトインして使用しているSearch Generative Experienceが、回答の一部としてスパムサイトを表示することがあると報告しました。
OH GOOD.
SGE WILL EVEN RECOMMEND THE SPAM SITES AS PART OF THE ANSWER. pic.twitter.com/wqgFFXqbMB— Lily Ray ???? (@lilyraynyc) March 22, 2024
以下のスクリーンショットを見ると、「pitbull puppy for sale craigslist(ピットブルの子犬を売ります、craigslistで)」という検索ワードに対して複数の関連するかもしれないウェブサイトが表示されていますが、これらはいずれもスパムサイトだとのこと。

レイ氏はスパムサイトがオススメされてしまう検索ワードの傾向について、「キーワードはかなりランダムですが、一般的にはロングテールなキーワードでボリュームが比較的少なく、SEOの競争が限られているものです」と述べています。SEOに特化したスパムサイトは、競合相手の少ないキーワードでランキング上位になることでドメインの評価を上げているそうです。
ニュースサイトのThe RegisterのテストでもAIの回答にスパムサイトが表示されることが確認されましたが、レイ氏とThe RegisterはオプトインしてSearch Generative Experienceを使用したため、オプトインなしで展開された今回のテストの被験者で同様の結果が再現されるのかはわかりません。
Googleの広報担当者はThe Registerに、「私たちは検索結果からスパムを排除するために、高度なスパム対策システムを更新し続けており、これらのスパム対策を使用してSearch Generative Experienceを保護しています。私たちはポリシーに従い、共有された例に表示されていたウェブサイトを削除するという措置を講じました」とコメントしました。
テクノロジー系メディアのBleepingComuputerは、Search Generative Experienceがオススメしてきたスパムサイトをクリックしたところ、複数のリダイレクトの後に「訪問者をだましてブラウザ通知を購読させようとするYouTubeを模した偽サイト」に到達したと報告しています。これらのサイトでブラウザ通知をオンにすると、アフィリエイト詐欺や偽造品、危険なウェブサイトの広告を含むスパムが頻繁に表示されるとのこと。

Google検索は以前から、「SEO対策に特化したスパムサイトやAIでコンテンツを生成する低品質なサイトを検索結果に表示している」と非難されており、今回の報告はGoogle検索のAIツールにも同様の問題が生じていることを示しています。
しかし、今回のケースでは単に検索結果の上位に表示されているだけでなく、AIツールが自然な応答の中で当該ウェブサイトを推奨してきます。そのため、ユーザーが「Googleがオススメしてくるウェブサイトなのだから安全だろう」と思い込み、詐欺に引っかかってしまう危険性が高いとBleepingComuputerは警告しました。