ある分析によると、極右勢力が使用した人工知能（AI）生成画像がフランスの第1回議会選挙や欧州レベルの議会選挙にどのような影響を与えたかを評価するのは難しいという。
欧州の極右政党が政治的メッセージを支援するために人工知能（AI）で生成した画像を使用していることが2件の新たな報告書で判明したが、それらの画像が最近のフランスと欧州の選挙にどのような影響を与えたのかを評価するのは難しい。
非営利団体 AI Forensics は、EU 選挙とフランスの第 1 回議会選挙期間中の 5 月 1 日から 6 月 28 日まで、フランスの 31 の政党のソーシャル メディア ページを調査し、生成 AI (genAI) コンテンツを発見できるかどうかを調査しました。
次に、それらの画像を AI 関連の検索エンジンに通し、AI ツールによって作成されたものであることを確認します。
チーム全体としては、研究者らは、フランスの政党が使用した生成AI画像51件を発見し、極右政党である国民集会（RN）、レコンケット、レ・パトリオットが最も関与しているとしているが、研究者らはこれは控えめな推定だと述べた。
AIフォレンジックの研究者サルバトーレ・ロマーノ氏はユーロニュース・ネクストに対し、「今回は（生成）AIが注目される初めての選挙サイクルだが、今後数年間でAIはますます利用されると確信している」と語った。
「規模が非常に小さい今、これを管理できないとしても、テクノロジーが実際のコンテンツと区別できなくなると、管理が難しくなるでしょう」と彼は付け加えた。
極右RNは先週日曜日のフランス第1回選挙で得票率33％を獲得し、6月のEU選挙でも得票率31.5％でトップに立った。
フランスの政党が使用したAI生成のキャンペーン画像のほとんどは、「反移民、フランスの安全の欠如、表現の自由の欠如、欠陥のある司法制度、不十分な農業保護のメッセージを伝えている」ことがAIフォレンジックの報告書で判明した。
AIフォレンジック研究者のミアジア・シューラー氏は、「（画像は）フランスはEU内では安全ではなく、私たちの社会で弱い立場にある人々を非常に食い物にしているという恐怖を煽る手法として使われている」と付け加えた。
これらの画像は多くの場合「超現実的」に見え、平均的なユーザーにはそれが AI によってレンダリングされたことがはっきりとわかるとシューラー氏は述べました。
他には、新聞に掲載されている政治風刺画の模倣など、微妙なものもありました。
極右政党「レコンケット」など一部の政党は、生成AIを利用してフランス大統領エマニュエル・マクロンや欧州委員会委員長ウルスラ・フォン・デア・ライエンの画像を作成した。
大西洋評議会のデジタルフォレンジック研究所（DFRLabs）の調査によると、EU選挙運動中、RNは選挙に向けて「彼らのいないヨーロッパ」と呼ばれるウェブサイトを作成し、同様にマクロン氏とフォンデアライエン氏の指導的地位に異議を唱えた。 。
同ウェブサイトは現在も稼働しており、AIが生成した少なくとも3つの画像が掲載されていることが報告書で判明した。1つは「EUによる人民軽蔑、大量移民、ヒジャブの推進」に反対する請願書だ。
「氷山の一角にすぎない」
アトランティック・カウンシルの研究者ヴァレンタン・シャトレ氏は、この種のAI生成コンテンツがEUとフランスの両方の選挙でのRNの成功にどれほどの影響を与えたかを知るのは「難しい」と述べた。
「問題に対するバルデラ氏の特定の姿勢など、特定の考えを伝えるために党が使用している資料にプラスの影響を与えていると思う」とシャトレ氏は語った。
「（AIが生成した）画像は、人々に衝撃を与えるためにも使用されます…主流になるまでは」と彼は付け加えた。
ユーロニュース・ネクストは国民集会（RN）、アイデンティティと民主主義グループ、愛国者とレコンケートの各政党に連絡を取ったが、返答は得られなかった。
フランスの放送局によると、RN候補者は2024年1月からChatGPTの使い方を含むAIトレーニングを受けてきたというBFMTV。同放送局の報道によると、トレーニング小冊子の中で、選挙ポスターの作成や討論の論拠の検索など、AIが候補者をどのように支援できるかの例が示されている。
AIフォレンジックの研究も大西洋評議会のDFRLabsも、候補者の個人的な投稿や党のファンベースが作成したコンテンツを調査していなかった。
ロマーノ氏は、ラベルのない AI 選挙コンテンツがソーシャル メディア プラットフォーム上でどれだけ流通しているかについて、彼らの研究は「氷山の一角」にすぎないと考えています。
AI利用に関するハイテク企業の「重大な過失」
AI フォレンジックのレポートでは、AI が生成した画像にはそのようなラベルが付けられていないことが判明しました。
「我々の調査結果は、政党とプラットフォームの双方が、政治運動においてAI生成画像にラベルを付けるという約束を遵守するという重大な怠慢を明らかにし、透明性の緊急の必要性を浮き彫りにしている」と報告書には書かれている。
Google、OpenAI、Meta、TikTokなどのビッグテック企業は2月にオープンテクノロジー協定に署名し、欧州選挙前に自社のプラットフォーム上で「署名者が…欺瞞的なAI選挙コンテンツをどのように管理するかについての期待を設定」した。
この協定の最初の約束は、プラットフォームが「AI が生成したリアルな画像を（特定）、および/またはコンテンツの信頼性とその出所を（証明）」することです。アコード読みます。
また、欺瞞的な AI コンテンツに対して「モデルがもたらす可能性のあるリスクを理解する」ためにモデルを見直すことも約束しました。
一部の政党はこれの独自バージョンに署名しました合意欧州委員会は「人工知能の使用を含め、国民の意図的な欺瞞を防止することに尽力している」と声明のコピーには書かれている。
欧州議会のアイデンティティと民主主義グループ (ID) はこの行動規範に署名し、RN もそのメンバーです。他のフランス国民党はそうしなかった。
ロマーノ氏は、AIフォレンジックはこれらの行動規範に違反した当事者に対して何らかの影響があることを期待して報告書を欧州委員会に送付すると述べた。
