ヨーロッパで最も人気のある人工知能（AI）チャットボットが現在、選挙関連の偽情報を意図的にユーザーに拡散していることが、最新の調査で判明した。
Democracy Reporting International (DRI) は、Google Gemini、OpenAI の ChatGPT4、ChatGPT4-o、Microsoft の Copilot を使用して、選挙プロセスに直接関連する質問にチャットボットがどのように応答したかを調査しました。
5月22日から24日にかけて、研究者らはチャットボットにEUの10の言語で5つの質問をした。その内容には、ユーザーが海外に住んでいる場合に有権者登録をする方法、郵便で投票を送信するにはどうすればよいか、欧州議会選挙の結果はいつ決まるかなどが含まれる。外。
「私たちは前回の研究のタイトルを『偽情報』としました…今回はカテゴリーを『偽情報』に変更しました。これはあるレベルの意図を暗示しています」と報告書には書かれている。
「企業が誤った情報に気づいたにもかかわらず、それに対処しなかった場合、その企業は故意に誤った情報の拡散を受け入れたことになる。」
この改訂された調査は、チャットボットが典型的な選挙関連の応答に対して「確実に信頼できる回答を提供する」ことができないと結論付けたDRIが4月に発表した報告書を拡張したものである。
「[AI チャットボットに] あまり多くの資料がなく、インターネット上であまり情報が見つからないことを尋ねると、彼らは何かを発明するだけです」とエグゼクティブ ディレクターの Michael-Meyer Resende 氏は述べています。 DRIの者は当時ユーロニュース・ネクストに語った。
ジェミニ、副操縦士が答えを拒否
報告書によると、検査の結果、ジェミニ氏は検査されたどの言語でも選挙プロセスに関する質問に答えることを拒否したという。
「私たちはこれがこの問題に対処する責任ある方法であると考えています。ユーザーにとっては選挙に関する誤った情報よりも情報を入手しない（そして他のところに目を向ける）方が良いからです」と研究は続けた。
DRI の 4 月の報告書によると、Google の Gemini は、正確で実用的な情報を提供するパフォーマンスが最悪であり、応答拒否の数も最も多かったことが判明しました。
グーグルは以前ユーロニュース・ネクストに対し、ジェミニが今回の研究で使用された10言語すべてで選挙関連の質問に回答できる範囲にさらなる制限を導入したと語った。
Microsoft の Copilot は、一部の質問、特に英語とポルトガル語での回答を拒否し、代わりに有効な情報を得るために検索エンジンである Bing へ検索者を誘導しました。
他の言語では、Copilot が応答を試みるか拒否するかについて「識別可能なパターン」はありませんでした。研究者にとって、これはマイクロソフトがチャットボットによる幻覚の制限にある程度の努力を払っていることを示しているが、その制限はすべての EU 言語に及ぶわけではない。
答えがあった場合、研究者は答えの 3 分の 1 以上が部分的または完全に間違っていることに気づきました。
研究者らは、海外に住む国民も自国の議員に投票するために登録できることについて副操縦士がポーランド語で言及しなかったときなど、前回の研究と同じ問題を時々観察した。
別の例では、ギリシャの有権者に投票するために登録するよう指示したが、実際にはすべての国民が自動的に登録される。
Euronews Nextへの以前の声明で、Microsoftは「有権者、候補者、選挙運動、選挙当局の保護に役立つ」一連の選挙保護の取り組みを含む、欧州選挙に先立った自社の取り組みについて概説した。
これらの取り組みの一環として、有権者に Bing 上の「信頼できる選挙情報」を提供することが含まれています。
Microsoftの声明には「選挙が自由で公正であることを保証できる個人、機関、企業は存在しないが、自由で公正な選挙に対するすべての人の権利を保護する上で有意義な進歩を遂げることはできる」と述べられている。
OpenAIはチャットボットを「緊急に再トレーニング」する必要がある
どちらの ChatGPT4 モデルも質問への回答を拒否することはほとんどなく、競合するチャットボットよりも不正解または部分的に正解する率が高くなっています。彼らが犯した間違いは、多くの場合、小さいながらも重要な詳細でした。
あるケースでは、ChatGPT はアイルランドの有権者に、投票するために直接記入するための特定のフォームを紹介しましたが、実際にはそのフォームはオンラインで入手でき、必要なフォームの種類は「個人の状況とステータス」によって異なります。
「チャットボットは 1 つのフォームのみに焦点を当てたため、アイルランドでの登録プロセスの不完全な全体像を提供した」と研究結果は述べています。
研究者らは、ChatGPTはより正確にするために、ユーザーの質問に対する詳細な回答ではなく、「…より一般的な情報を提供する」ことができた可能性があると述べている。
ChatGPTが地方選挙までに提供した情報を検証するという免責事項が散発的に回答に追加されたと報告書は続けた。
「OpenAIは選挙に関する偽情報を回避しようとする試みは一切していないようだ」と研究は結論づけている。
「このような偽情報を防ぐために、チャットボットを早急に再訓練する必要がある」と報告書は続けた。
OpenAIはウェブサイトで、選挙関連コンテンツに対する同社のアプローチは「正確な投票情報を高めてプラットフォームの安全性を確保する取り組みを継続する」ことであり、自社の透明性を向上させることだと説明している。
