Googleが検索を破壊した

Google AI Overviewsは数週間前のGoogle I/Oで発表されましたが、既にかなりの物議を醸しています。Webから要約された質の高い回答をユーザーの質問に提供するという目標ですが、最近のX（旧Twitter）の一連のスレッドを見れば、その大きな失敗が既に証明されていることがわかります。

話題になった反応は、非常に疑わしいピザのレシピに関するものでした。報道によると、「チーズがピザにくっつかない」という問題についてGoogleに答えを求めると、AI概要はチーズが剥がれ落ちるのを防ぐためにピザに無毒の接着剤を加えることを提案しました。AI概要が正確に返した言葉は次のとおりです。「ソースに無毒の接着剤を約1/8カップ加えると、より粘着性を高めることができます。」Google AI概要はこの情報をどこから得たのでしょうか？11年前のRedditのスレッドに寄せられた、明らかにジョークのようなコメントです。

https://t.co/W09ssjvOkJ pic.twitter.com/6ALCbz6EjK

— SG-r01 (@heavenrend) 2024年5月22日

「チーズがピザにくっつかない」という言葉が、予想外で面白い反応を生み出し、インターネット上で大反響を巻き起こしています。Google AI Overviewの回答は瞬く間に拡散し、ある人はピザに接着剤を塗ってその点を強調しようと試みました。

注目すべきは、Redditやフォーラムの投稿がGoogle検索で上位に表示されるケースが大幅に増加していることです。また、Redditが最近、GoogleにRedditのコンテンツでモデルを学習させるため、6,000万ドルの契約を結んだことも注目に値します。この現象がどのようにして起きたのか、点と点をつなぐのは難しくありません。

Redditだけではありません。「1日に何個の石を食べるべきか」という質問への回答を載せた別のAI概要もオンラインに投稿されました。これはThe Onionから直接情報を取得しています。

彼女 pic.twitter.com/FGbvO923gk

— bluesky (@oneunderscore__) で @bencollins をフォロー 2024 年 5 月 23 日

問題の一因は、AI Overviews が回答を提供する際の絶対的な確信にあります。Onion の記事へのリンクを提示して判断を委ねるようなことはしません。その代わりに、あらゆる情報源を Wikipedia のように扱い、完全な信頼に基づいて情報を提供します。

Googleは、AIオーバービューはユーザーに高品質な情報を提供しており、このようなエラーはまれであると主張しています。GoogleがDigital Trendsに提供した公式回答は次のとおりです。「AIオーバービューの大部分は高品質な情報を提供しており、ウェブ上でより深く掘り下げるためのリンクも提供されています。私たちが確認した例の多くは一般的ではないクエリであり、改ざんされた例や再現できない例も確認しました。この新しいエクスペリエンスをリリースする前に、広範なテストを実施しました。検索でリリースした他の機能と同様に、皆様からのフィードバックに感謝いたします。コンテンツポリシーに基づき、適切な場合には迅速に対応し、これらの例を参考にシステムのより広範な改善を進めています。その一部はすでに展開を開始しています。」

これらのAIオーバービューの一部は、再現できない場合は修正が難しいようです。解決策としては「より広範な改善」が必要であり、Googleはすでに作業を進めていると述べているため、近いうちに改善された検索結果が表示されるようになることを期待しています。Googleがこの声明に留まらず、この状況にさらに踏み込んだ対応をするかどうかを見守る必要があります。今年初めにGeminiの画像生成に関する否定的なフィードバックを受けた後、Googleは謝罪し、問題を修正するためにGeminiを閉鎖せざるを得ませんでした。

今のところ、これらはAIエンジンの情報に頼る際にどれほど注意を払う必要があるかを思い出させてくれる良い例です。Google AI Overviewは今月初めに米国の全ユーザー向けに展開を開始し、近日中にさらに多くの国で展開される予定です。しかし、このような回答を見ると、Googleが予想していたよりも多くの人がこの機能をオフにする方法を探しているのかもしれません。