Googleは今月、人工知能（AI）が生成した概要を検索エンジンの上部に表示する新機能を米国で発表した。
しかしすでに、新しい「AI概要」に含まれる情報の誤りを指摘する人もいる。
「はい、宇宙飛行士は月面で猫に会い、一緒に遊び、世話をしたことがあります」とAP通信記者の質問に答えてGoogleの検索エンジンは答えた。
「例えば、ニール・アームストロングは『人間にとっては小さな一歩』と言ったが、それは猫の一歩だからだ。バズ・オルドリンもアポロ11号のミッションに猫を投入した」と概要は付け加えた。
これはどれも真実ではありませんが、Google の検索ページが生まれ変わって以来、同様の間違いがソーシャル メディアで共有されています。
あるユーザーは、AI 概要が 1 日に石を 1 個食べることを推奨しているように見える投稿を共有し、別のユーザーは AI 概要がピザに糊を追加することを推奨していると主張しました。
ニューメキシコ州サンタフェ研究所のAI研究者メラニー・ミッチェル氏がGoogleに、これまで何人のイスラム教徒が米国大統領を務めてきたかと尋ねたところ、検索ツールは、長い間誤りが暴かれてきた陰謀論を自信を持って答えた。「米国にはイスラム教徒の大統領が1人いる」 、バラク・フセイン・オバマ」。
ミッチェル氏は、この要約は歴史家によって書かれた学術書の章を引用することでその主張を裏付けていると述べた。しかし、この章は偽の主張を行ったわけではなく、誤った理論に言及しているだけでした。
ミッチェル氏はAP通信への電子メールで、「グーグルのAIシステムは、この引用が実際に主張を裏付けるものではないと判断できるほど賢くない」と述べた。
「その信頼性の低さを考えると、この AI 概要機能は非常に無責任であり、オフラインにする必要があると思います」とミッチェル氏は付け加えました。
グーグルは金曜日の声明で、オバマ氏の虚偽などコンテンツポリシーに違反する誤りを修正するために「迅速な行動」をとっていると述べた。
しかし、ほとんどの場合、Google はシステムが公開前に広範なテストを行ったおかげで正常に動作していると主張しています。
「AI概要の大部分は、Web上でより深く掘り下げるためのリンクを備えた高品質の情報を提供します」とGoogleは書面による声明で述べた。
「私たちがこれまで見てきた例の多くは珍しいクエリであり、改ざんされた例や再現できなかった例も見てきました。」
「幻覚」
AI 言語モデルによって発生するエラーを再現するのは困難です。その理由の 1 つは、エラーは本質的にランダムであるためです。 AI モデルは、トレーニングされたデータに基づいて、尋ねられた質問に最もよく答える単語を予測することによって機能します。
彼らはでっち上げをする傾向があり、これは幻覚として知られる広く研究されている問題です。
AP通信はGoogleのAI機能をいくつかの質問でテストし、その回答の一部を対象分野の専門家と共有した。
カリフォルニア州立大学ノースリッジ校の生物学教授であり、米国魚類学者・爬虫類学者協会の会長でもあるロバート・エスピノーザ氏は、ヘビに噛まれた場合にどうすればよいかを尋ねたところ、グーグルは「驚くほど徹底した」答えを返したと語った。
しかし、他の専門家は、人々が緊急の質問をした場合、間違いが起こる可能性が問題であると警告した。
Googleのライバル各社もこの反応を注視しており、ハイテク巨人はAIの展開を急ぐ中で他の企業と競争するというプレッシャーに直面している。
