新しい調査によると、ヨーロッパで最も人気のある 4 つの AI チャットボットは、今後の選挙に関する正確な情報をユーザーに提供していません。
ベルリンに拠点を置く非営利団体 Democracy Reporting International は、Google の Gemini、OpenAI の ChatGPT 3.5 および 4.0、および Microsoft の Copilot を介して欧州選挙に関するさまざまな質問を入力し、どのような回答が得られるかを確認しました。
3月11日から14日にかけて、研究者らはチャットボットに対し、EU10カ国の選挙や投票プロセスについて10の異なる言語で選挙関連の400の質問をした。質問は、AI チャットボットの平均的なユーザーに適した簡単な言葉で書かれています。
結論としては、4 つのチャットボットはどれも、党派的な反応を避けるように十分に調整されていたにもかかわらず、典型的な選挙関連の質問に対して「確実に信頼できる回答を提供する」ことができませんでした。
「私たちはそれほど驚きませんでした」とデモクラシー・リポーティング・インターナショナルのエグゼクティブ・ディレクター、マイケル・マイヤー・レゼンデ氏は調査結果についてユーロニュース・ネクストに語った。
「[AI チャットボットに] あまり資料がなく、インターネット上でもあまり情報が見つからないことについて質問すると、彼らは何かを発明するだけです。」
この調査は、多くの人が世界最大の選挙の年と呼ぶこの時期に、AIチャットボットが誤った情報を広めていることを発見した最新のものである。
昨年12月、ベルリンに本拠を置く別の非営利団体AlgorithmWatchは、Microsoftの検索エンジン上のAI駆動チャットボットであるBing Chatがドイツとスイスで選挙の質問の3つのうち1つを間違って答えたことを示す同様の研究を発表した。
研究結果を踏まえて、Geminiが最も誤解を招く情報や虚偽の情報を提供し、問い合わせへの回答拒否が最も多かったことが判明したGoogleは、同社の大規模言語モデル（LLM）にさらなる制限を課したことをユーロニュース・ネクストに認めた。
チャットボットは「正確というより役立つ」
レゼンデ氏によると、有権者登録や国外投票に関する質問など、チャットボットのパフォーマンスが低かった領域は明確にあるという。
たとえば、この調査では、ギリシャ、ベルギー、ルクセンブルク、ブルガリアでは投票が義務付けられているにもかかわらず、チャットボットは一般に投票を支持しているが、投票は個人的な選択であると強調していることが判明した。
この調査では、チャットボットが答えを知らない場合、しばしば「幻覚」を起こしたり、いくつかの間違った選挙日を含めて情報を捏造したりすることも判明した。
たとえば、チャットボットのうち 3 つは、ポルトガルでは郵便で投票できるとユーザーに伝えるという同じ間違いを犯しましたが、実際には、ポルトガルの有権者にとってそれは選択肢ではありません。
リトアニアでは、ジェミニは欧州議会が選挙監視団を派遣すると主張したが、これは虚偽である（現時点で予定されている2024年のEU選挙監視団はバングラデシュのみである）。
レゼンデ氏は、こうした幻覚の結果を「チャットボットが正確さよりも『役立つ』ことを求める傾向」と解釈している。
レポートでは、チャットボットからの最も強力な応答であっても、応答には壊れたリンクや無関係なリンクが含まれていることが多く、それがチャットボットの品質を「弱めている」と研究は述べています。
研究者たちがさまざまなヨーロッパ言語での回答を探すと、事態はさらに複雑になりました。
研究者らはEUの10の公用語で同じ質問をしたところ、その一部ではプラットフォームが回答を拒否したり（スペイン語のジェミニなど）、地方選挙に関する情報と欧州全体のプロセスを混同したりした。
これはトルコ語で質問された場合に当てはまり、不正確で誤った回答が最も多かった言語です。
また、同じ言語で同じ質問を数回行うと、チャットボットは異なる応答を返す可能性があり、これを研究者らは「ランダム性」と認識しました。
レゼンデ氏は、このことがデモクラシー・レポーティング・インターナショナルの調査を再現するのを困難にしていることを認めている。
パフォーマンスはチャットボットによって異なります
報告書によると、GoogleのGeminiは正確で実用的な情報を提供するパフォーマンスが最悪であり、返答拒否の数も最も多かったという。
しかし、Googleはテクノロジーの使用方法における「潜在的な間違い」を避けるために3月にGeminiを制限したにもかかわらず、依然として選挙に関するいくつかの質問に答えている。
Googleの広報担当者はEuronews Nextに対し、これが大規模な言語モデルの制限に対処する「責任あるアプローチ」であるため、これらの制限をこの調査で調査したすべての質問と、使用された10言語すべてに拡大したと語った。
Google は、今後の選挙に関する正確な情報を見つけるために、Gemini ではなく Google 検索を使用することをユーザーに推奨しました。
Democracy Reporting InternationalのResende氏は、他のプラットフォームもそうあるべきだと述べた。
「私たちは、彼らが虚偽の回答をするよりも、回答を拒否する方が良いと考えています」とレゼンデ氏は語った。
レゼンデ氏によると、この非営利団体は、Googleが約束を守っているかどうかを確認するために、今後数週間かけてジェミニのテストを再実施する予定だという。
Euronews Nextへの声明の中でマイクロソフトは、「有権者、候補者、選挙運動、選挙当局の保護に役立つ」一連の選挙保護の取り組みを含む、欧州選挙に先立った自社の取り組みの概要を説明した。
これらの取り組みの一環として、有権者に Bing 上の「信頼できる選挙情報」を提供することが含まれています。
Microsoftの声明には「選挙が自由で公正であることを保証できる個人、機関、企業は存在しないが、自由で公正な選挙に対するすべての人の権利を保護する上で有意義な進歩を遂げることは可能だ」と書かれている。
OpenAIはユーロニュース・ネクストのコメント要請に応じていない。
同社はウェブサイト上の声明で、選挙関連コンテンツに対する同社のアプローチは「正確な投票情報を高めてプラットフォームの安全性を確保する取り組みを継続する」ことであり、自社の透明性を向上させることだと説明した。
リスク評価は公表されるべきである
欧州委員会は2月、デジタルサービス法（DSA）を可決し、Google、Microsoft、OpenAIなどの非常に大規模なオンラインプラットフォーム（VLOP）に対し、プラットフォーム上でのフェイクニュースや誤情報の拡散に対するリスク評価の実施を義務付けた。
これらのリスク評価には、サービスの「意図的な操作」と「選挙プロセス」への潜在的な影響が含まれます。
DSAは当時、デジタル時代に適した欧州を目指す欧州委員会の副委員長マルグレーテ・ベステアー氏によって、「大きなマイルストーン」であり、欧州連合の「社会を形成する」戦略の主要部分であると宣伝されていた。より安全で透明性の高いオンライン世界。」
しかし、デモクラシー・リポーティング・インターナショナルの報告書は、選挙関連のリスクを軽減するためのリスク評価、検査、訓練などのDSAの要件が満たされていないことを示唆している。
したがって、レゼンデ氏は、委員会またはチャットボットの背後にある企業はこれらの評価を公表すべきだと述べた。
「残念ながら、彼らは（リスク評価を）一般の人々と共有することに消極的である。なぜなら、彼らがそれを実行しなかったか、あるいはこれに投資した詳細レベルに自信がないためだ」とレゼンデ氏は語った。
この調査には直接反応しなかったが、広報担当者は電子メールで、委員会は「AIを活用した偽情報を含むオンライン偽情報の悪影響を引き続き警戒している」と述べた。
DSA の正式発足から 1 か月後、委員会は「生成 AI に関連する軽減リスク」に関するさらなる情報を収集するために、Bing と Google 検索に対する情報調査を開始しました。
欧州委員会はユーロニュース・ネクストに対し、今回の調査で受け取った情報を検討していることを認めたが、それ以上の詳細は明らかにしなかった。
同委員会はまた、3月にGoogleやMicrosoftなどのプラットフォームと虚偽情報に関する実践規範に署名し、「有権者に高品質で信頼できる情報」を宣伝することで合意した。
