Googleがピザに糊をつけるよう人々に求めたことを受け、AI概要機能にさらなる制限を設けた

グーグルの検索責任者リズ・リード氏は、同社の検索エンジンが米国で公開された後、「奇妙で不正確、または役に立たないAIの概要」を返したことを認めた。 同幹部は、GoogleのAIが生成したより奇妙な応答についての説明をファイルに投稿した ブログ投稿また同社は、新機能がより正確でミーム価値の低い結果を返すのに役立つ安全策を実装したことも発表した。

リード氏はGoogleを擁護し、犬を車の中に残しておくのは安全だという主張など、広まっているAIの概要に対するよりひどい反応の一部は偽物だと指摘した。 「石は何個食べるべきですか?」という質問に対する答えを示す、ウイルスのスクリーンショット。 確かにその通りですが、あるサイトがこのテーマに関する風刺コンテンツを公開したため、Google が答えを見つけたと彼女は言いました。 「これらのスクリーンショットが広まる前は、Google にこの質問をする人はほとんどいませんでした」と彼女は説明しました。そのため、同社の AI がこのサイトにリンクされていたのです。

Google副社長はまた、AIの概要が、フォーラムから取得したコンテンツに基づいて、ピザにチーズをくっつけるために接着剤を使うよう人々に求めたことを認めた。 彼女は、フォーラムは通常「本物の率直な情報」を提供するが、「あまり役に立たないアドバイス」につながる可能性もあると述べた。 CEOはAIの概要に関して広まっている他の回答については言及しなかったが、 ワシントンポスト 報道によると、この技術はまた、バラク・オバマ氏はイスラム教徒であり、腎臓結石を取り除くためには尿をたくさん飲むべきであるとユーザーに伝えたという。

リード氏は、同社はこの機能をリリースする前に広範なテストを行ったが、「これほど多くの新しい検索に何百万もの人々がこの機能を使用していることは他にない」と語った。 Googleは、過去2週間の対応例を調べることで、自社のAIテクノロジーが物事を正しく処理できないパターンを特定できたようだ。 次に、ユーモアや風刺コンテンツをより適切に検出できるように AI を微調整することから始めて、フィードバックに基づいて保護機能を導入しました。 また、ソーシャル メディアやフォーラムの投稿など、誤解を招く、あるいは有害なアドバイスを与える可能性のある、概要へのユーザー生成の応答の追加を制限するためにシステムを更新しました。 さらに、「AI概要が役に立たなかったクエリに対するトリガー制限も追加」し、一部の健康トピックに関してAIが生成した応答の表示を停止した。