Googleが検索結果の「AIオーバービュー」の内容がむちゃくちゃになる要因について解説

2024年5月からGoogleが広く展開している、検索結果をAIがまとめて概要を表示してくれる機能「AIオーバービュー」で、「ピザにチーズをくっつけるために接着剤を使用する」などの奇妙な回答を行っていたことをGoogleが認め、なぜこのような回答を行うに至ったのかについて説明しています。
What happened with AI Overviews and next steps
https://blog.google/products/search/ai-overviews-update-may-2024/

Google explains AI Overviews' viral mistakes, defends accuracy
https://9to5google.com/2024/05/30/google-ai-overviews-accuracy/
Google is putting more restrictions on AI Overviews after it told people to put glue on pizza
https://www.engadget.com/google-is-putting-more-restrictions-on-ai-overviews-after-it-told-people-to-put-glue-on-pizza-011316780.html
Google explains how it is improving its AI Overviews
https://searchengineland.com/google-explains-how-it-is-improving-its-ai-overviews-442800
AIオーバービューは検索結果の上部にAIで生成した「検索結果の概要」を表示する機能で、例えば「布地のソファを掃除するにはどうしたらいい」という質問に対して検索結果をもとに「掃除機を使う場合は○○、一部分を重点的に掃除したい場合は○○」といったように自然な言語で検索結果の概要を示してくれるというもの。
しかし、AIオーバービューではリリース直後から「ピザにチーズをくっつけるために接着剤の使用を提案してくる」「NBAに犬が出場したことがあると主張してくる」「『1919年は20年前です』と回答してくる」といったように明らかに誤った回答を返すことが指摘されていました。
Google検索のAIによる概要機能が「ピザにチーズをくっつけるために接着剤を使用する」などおかしな回答をしていることが明らかに - GIGAZINE

これを受けてGoogleは、「コンテンツポリシーに基づいて適切だと判断された場合、特定の検索語句に対するAIオーバービューの回答を無効化するために迅速な措置を講じている」と述べ、AIオーバービューを個別に無効化していることを認めています。
Googleが間違いだらけのAI検索を手動で修正中との報道、AI検索を回避する個人開発サービスも登場 - GIGAZINE

さらにGoogleは2024年5月30日に「AIオーバービューが注目を浴びたことを踏まえ、何が起こったのか、そして私たちが取った手順を説明したいと思います」との公式ブログを公開しました。
公式ブログの中でGoogleは「AIオーバービューは単にトレーニングデータに基づいて出力を生成しているわけではなく、カスタマイズされた言語モデルとともにコアウェブランキングシステムと統合されており、インデックスから関連性のある高品質の結果を特定して出力を行っています」と解説。そのため、「他の大規模言語モデル製品のように『幻覚(ハルシネーション)』が現れることはありません」と強調しています。

今回、「ピザにチーズをくっつけるために接着剤を使用する」などの奇妙な回答が生まれた要因についてGoogleは「無意味なクエリや風刺的なコンテンツが与えられたため」と分析しています。Googleによると、「石をいくつ食べればよいですか？」との質問をGoogle検索に投げかけても、この質問を適切に回答できるウェブコンテンツはほとんどないとのこと。トピックに関する高品質なコンテンツの量が限られるこれらの事象は「データの空白」または「情報ギャップ」と呼ばれています。
「石をいくつ食べればよいですか？」という質問の場合、このトピックに関する風刺的なコンテンツを掲載するウェブサイトや、地質学ソフトウェアプロバイダーのブログ記事というごくわずかな情報を頼りにAIオーバービューが概要を作成。この結果、今回のような奇妙な回答が生まれてしまったというわけです。
さらに、Googleは「AIオーバービューで誤った回答を生み出すことを狙っているように見える、無意味なウェブサイトの開設なども確認されています」と指摘しています。
また、Googleの調査では、AIオーバービューがディスカッションフォーラム上の皮肉を含むコンテンツや荒らしを取り上げて回答を生成することが明らかになっています。そのため、GoogleはAIオーバービューに関するアルゴリズムの改善や、ポリシーに準拠していない回答を生成される概要から除外するプロセスの確立に取り組んだとのこと。

具体的には、AIオーバービューを表示すべきでない無意味なクエリの検出メカニズムを改善し、風刺やユーモアのコンテンツを回答に含めることを制限したほか、AIオーバービューがあまり役立たないことが証明されたクエリのトリガー制限を追加したことなどが報告されています。
また、Googleはユーザーからのフィードバックや外部からの報告をモニタリングし、コンテンツポリシーに違反する少数のAIオーバービューに対して対策を講じていることを明らかにしました。