Google Gemini、スーパーボウルのCMで幻覚を流してしまう

スーパーボウルは、ゲームを見ないでCMだけまとめて見る派です。

Google（グーグル）が自社のAIモデルGeminiの機能をスーパーボウルのCMで宣伝しようとした際に、思いがけずAIツールの最大の欠点、すなわち「でっち上げる傾向」を逆に広告しちゃったみたいですよ。

スーパーボウルのCMでGeminiがハルシネーション？

The Vergeの報道によると、Googleは2月9日に開催される第59回スーパーボウルで流す予定だったGeminiのCMを修正しなきゃいけなくなったそうです。その理由は、同社があらゆるサービスに組み込もうとしているこのAIモデルが誤った情報を伝えてしまったからなのだとか。

Googleのスーパーボウル用CMでは、全米の中小企業が業務支援のためにGeminiを活用している様子を伝えるために、各州ごとに異なる事業を紹介する50のストーリーが展開されるそうです。

たとえば、ウィスコンシン州の広告では、チーズ業者が自社のウェブサイトでゴーダチーズの記述を作成するためにGeminiを利用しているシーンが描かれています。Geminiが生成したテキストには「ゴーダチーズは世界のチーズ消費量の50〜60％を占めている」と書かれているのですが、実はこれ、根拠に乏しく信ぴょう性が低いみたいなんです。

Geminiが出典を示していなかったため、旅行ブロガーのNate Hake氏がX（旧Twitter）でその統計を幻覚（ハルシネーション）だと指摘すると、Google Cloudのクラウドアプリケーション担当社長であるJerry Dischler氏がCMを擁護するこんなコメントを残しました。

やあ、ネイト。幻覚じゃないですよ。Geminiはウェブを基盤にしているので、ユーザーは結果や参照先をいつでも確認できます。

で、元の広告には出典が示されていなかったみたいなんですけど、Dischler氏は「今回の場合、ウェブ上の複数のサイトが50〜60％の統計を含んでいます」とも述べています。

「だってみんながそう言ってるもん」状態ですね、これ…。

不確かな情報を出典なしで引っ張るAIの奥義を発揮

確かにインターネット上ではその統計が紹介されてはいます。でも、ほとんどの情報はcheese.comの記載に由来していて、そこにも具体的な根拠は示されていません。

「Geminiが不確かな情報を引用しているからしょうがない」という言い訳は、まったく説得力がないと言わざるを得ません。ところで、「ネットの情報をうのみにするな」という格言はいったいどこに行っちゃったんでしょうか？

ちなみに、これは本題とはあまり関係ないのですが、Dischler氏はコメントの最後に「よいニュース（Gouda news=Good news）: 多くの人がこのチーズを愛しています！ 悪いニュース: 必ずしも皆がこれを素晴らしいと思っているわけではありません」と書いてるんですけど、説明すると「Gouda（ゴーダチーズ）」と「Good」をかけてあるんですね。

もうこれ「Geminiにゴーダチーズのダジャレを頼んだ」としか思えないんですけど。いや、自社製品を信じるのはいいことだと思いますよ。でも、正直なところなんかイタい感じがします。

ああだこうだ言いつつCMを修正

何はともあれ、CMの中でGeminiが生成した情報を擁護していたにもかかわらず、GoogleはCMの修正に踏み切ったようです。新しいバージョンでは「50〜60％」という統計が削除されているとのこと。修正後のバージョンがこちら。

しっかり修正されています。この修正が手動で行なわれたのか、あるいはGoogleがGeminiに別の指示を与えた結果なのかは不明ですが、修正版のCMはスーパーボウルで流れる予定だそうです。てか、本当に50州分あるわ、このCM…。

Googleは今回の一件で、Geminiのようなツールは学習した情報をそのままコピーするだけで、正しいかどうかを検証する仕組みがないという実態をCMで上手に表現しているみたいに見えます。

まあ、正確性のチェックはできなくても、少なくとも時間の節約はできますよってことで一件落着！

Reference: Google Workspace / YouTube