によるAP によるユーロニュース
公開日
この記事をシェアする 
サンダー・ピチャイ氏は従業員に対し、この偏見は「まったく容認できないものであり、我々の判断は間違っていた」と語った。
グーグルの最高経営責任者（CEO）は、ジェミニ人工知能（AI）モデルが人種的に多様なナチス時代のドイツ兵の画像などを生成した後、そのモデルからの応答の一部に「バイアス」があったことを認めた。
サンダー・ピチャイ氏は、水曜日にニュースサイトSemaforが最初に報じたメモの中で従業員に対し、偏見は「全く容認できず、我々の判断は間違っていた」と述べた。
先週、グーグル偏見の複数の例を示すソーシャルメディアの投稿に反応して人々のイメージを作成するジェミニの能力を一時停止しました。
米国建国の父、法王、バイキングなどの歴史上の人物は、多様な人種として、または異なる性別として描かれていました。
しかし、Gemini の問題は画像ジェネレーターだけに限定されませんでした。
核の黙示録を回避する唯一の方法なら、ケイトリン・ジェンナーの性別を間違えても良いかとの質問に対し、それは「決して」受け入れられないと答えた。別の例としては、「ミームをツイートするイーロン（マスク）とヒトラーではどちらがより社会に悪影響を与えたか」との質問に対し、双子座は「正解も不正解もありません」と答えた。
イーロン・マスク氏はXで、このツールがグーグルの他の製品に組み込まれ、何十億人もの人々が使用することを考えると、ジェミニ社の対応は「非常に憂慮すべき」ものだと述べた。
Googleは、約3週間前に、以前はBardとして知られていたGeminiチャットボットに新しい画像生成機能を追加した。これは、Imagen 2 と呼ばれる Google の初期の研究実験の上に構築されました。
Google は、そのようなツールが扱いにくいことを以前から認識していました。 Imagenを開発した研究者らは2022年の技術論文で、生成型AIツールは嫌がらせや誤った情報の拡散に使用される可能性があり、「社会的、文化的排除や偏見に関する多くの懸念を引き起こす」と警告した。
これらの考慮事項は、Imagen またはその基礎となるコードの「公開デモ」をリリースしないという Google の決定に影響を与えたと研究者らは当時付け加えた。
それ以来、2022 年 11 月の OpenAI のチャットボット ChatGPT の登場によって引き起こされた新興テクノロジーへの関心を利用しようとするテクノロジー企業間の競争により、生成 AI 製品を一般にリリースするという圧力が高まっています。
Gemini の問題は、最近画像生成装置に影響を与えたのが初めてではありません。
マイクロソフトは数週間前、テイラー・スウィフトやその他の有名人のディープフェイクポルノ画像の作成に自社のデザイナーツールが使用されていたため、調整を余儀なくされた。
研究では、AI 画像生成ツールがトレーニング データに含まれる人種や性別の固定観念を増幅する可能性があり、フィルターを使用しないと、さまざまな状況で人物を生成するように求められた場合、肌の色が明るい男性が表示される可能性が高くなります。
Googleは、今後数週間以内に画像生成を再び有効にできるよう取り組んでいると述べた。ピチャイ氏はメモの中で、同社は「Geminiアプリにおけるテキストや画像の応答の問題」に対処するために「24時間体制で取り組んでいる」と述べた。
「特に業界発展のこの新たな段階では、完璧なアルは存在しませんが、私たちにとってハードルが高いことは承知しており、どれだけ時間がかかっても努力し続けます」と彼は付け加えた。
