AIが生成する選挙に関する偽情報と戦うため、ビッグテック企業が協定に署名

大手テクノロジー企業は金曜日、人工知能（AI）ツールが世界中の民主選挙を混乱させるために使用されるのを防ぐため、「合理的な予防策」を自発的に導入する協定に署名した。

Adobe、Amazon、Google、IBM、Meta、Microsoft、OpenAI、TikTok の幹部がミュンヘン セキュリティ カンファレンスに集まり、セキュリティへの対応方法に関する新しいフレームワークを発表しました。AIが生成したディープフェイク意図的に有権者を騙すもの。

イーロン・マスク氏のX社を含む他の12社もこの協定に署名している。

「どのハイテク企業も、どの政府も、どの市民社会団体も、単独でこのテクノロジーの出現とその悪用の可能性に対処できないことは誰もが認識している」と、メタ社のグローバル担当社長ニック・クレッグ氏は述べた。フェイスブックとインスタグラムの親会社、サミットに先立ってインタビューで語った。

この協定は主に象徴的なものだが、AIが生成するますます現実的な画像、音声、ビデオをターゲットにしており、「民主的選挙における政治的候補者、選挙管理者、その他の主要な利害関係者の外見、声、行動を欺瞞的に偽装したり改変したり、あるいは、いつ、どこで、どのように合法的に投票できるかについて、有権者に虚偽の情報を提供すること。」

両社はディープフェイクの禁止や削除を約束していない。代わりに、協定は、プラットフォーム上で作成または配布される際に、欺瞞的な AI コンテンツを検出してラベルを付けるために使用する方法を概説しています。

同誌は、両社がベストプラクティスを共有し、そのコンテンツが拡散し始めた際には「迅速かつ適切な対応」を行うとしている。

拘束力のある要件の欠如

約束の曖昧さと拘束力のある要件の欠如が、さまざまな企業の支持を得るのに役立ったと思われるが、失望した支持者たちはより強力な保証を求めていた。

超党派政策センターの選挙プロジェクトのシニア・アソシエート・ディレクター、レイチェル・オリー氏は、「この言葉は予想されるほど強力ではない」と語る。

「私たちは、評価されるべきところは評価し、自由で公正な選挙を損なうために自社のツールが使用されないことに企業が既得権益を持っていることを認めるべきだと思います。とはいえ、それは任意であり、私たちは注視していくつもりです」彼らが最後までやり遂げるかどうかについて」。

クレッグ氏は、各企業が「独自のコンテンツポリシーを持っているのは当然だ」と述べた。

「これは全員に束縛を課そうとするものではない」と同氏は語った。

「そしていずれにせよ、業界の誰も、敷物の下を徹底的に掃除し、もぐらたたきをして、誰かを誤解させる可能性があると思われるものをすべて見つけ出すことで、まったく新しい技術パラダイムに対処できるとは考えていません。」

ヨーロッパと米国の数人の政治指導者も金曜日の発表に参加した。欧州委員会副委員長ベラ・ジョウロワ同氏は、このような合意は包括的なものにはなり得ないが、「非常に影響力があり前向きな要素が含まれている」と述べた。

同氏はまた、政治家仲間に対し、AIツールを欺瞞的に使用しないよう責任を負うよう促し、AIを利用した偽情報は「EU加盟国だけでなく民主主義の終焉」をもたらす可能性があると警告した。

ドイツの都市の年次安全保障会議での合意は、50カ国以上が2024年に国政選挙を予定している中で行われた。バングラデシュ、台湾、パキスタン、そして最近ではインドネシアがすでに国政選挙を実施している。

AIを模倣したAIロボコールなど、AIによる選挙妨害の試みはすでに始まっている。アメリカ大統領ジョー・バイデンの声は、先月のニューハンプシャー州の予備選挙で人々に投票を思いとどまらせようとした。

11月のスロバキア総選挙の数日前、AIが生成した音声録音は、ビールの価格を引き上げて選挙を不正操作する計画について議論する候補者になりすました。ファクトチェッカーたちは、ソーシャルメディア上に拡散した内容が虚偽であることを特定しようと躍起になった。

政治家も、有権者とのコミュニケーションに AI チャットボットを使用したり、AI が生成した画像を広告に追加したりするなど、このテクノロジーを実験してきました。

この協定はプラットフォームに対し、「文脈に注意を払い、特に教育、ドキュメンタリー、芸術、風刺、政治的表現の保護に注意を払う」よう求めている。

両社は自社のポリシーについてユーザーへの透明性を重視し、AIの偽物に騙されないようにする方法について国民の教育に努めると述べた。

ほとんどの企業はこれまで、画像や音声を操作できる自社の生成AIツールに保護措置を講じる一方、ソーシャルメディアユーザーが見ているものが本物かどうかわかるように、AIが生成したコンテンツを識別してラベルを付ける取り組みを行っていると述べていた。しかし、提案されたソリューションのほとんどはまだ展開されておらず、企業はさらなる対応を求めるプレッシャーに直面している。

米国ではその圧力が高まっており、議会は政治分野でAIを規制する法律をまだ可決しておらず、企業がほぼ自社で統治することになっている。

米連邦通信委員会は最近、ロボコールでAIが生成した音声クリップが法律に違反していることを認めたが、ソーシャルメディアやキャンペーン広告で流通する音声ディープフェイクは対象外だ。

多くのソーシャル メディア企業は、AI によって生成されたかどうかにかかわらず、選挙プロセスに関する欺瞞的な投稿を阻止するためのポリシーをすでに導入しています。

Metaは、「投票、有権者登録、国勢調査への参加の日付、場所、時間、方法」に関する誤った情報や、誰かの市民参加を妨害することを意図したその他の虚偽の投稿を削除すると述べている。

協定不参加者

インテグリティ・インスティテュートの共同創設者で元フェイスブックのデータサイエンティストであるジェフ・アレン氏は、この協定は「前向きな一歩」のように見えるが、それでもソーシャルメディア企業がコンテンツの推奨を構築するなど、誤った情報と戦うために別の措置を講じることを望んでいると述べた。何よりもエンゲージメントを優先しないシステム。

擁護団体パブリック・シチズンのエグゼクティブ・バイスプレジデントであるリサ・ギルバート氏は金曜日、協定は「十分ではない」とし、AI企業は「実質的な技術が確立されるまで、超現実的なテキストをビデオに変換するジェネレーターなどの技術」を控えるべきだと主張した。多くの潜在的な問題を回避するために適切な安全策が講じられています。」

金曜日の合意の仲介を支援した企業に加えて、他の署名者にはチャットボット開発者のAnthropicとInflection AIが含まれる。音声クローンのスタートアップ、イレブンラボ。チップ設計者のアーム・ホールディングス。セキュリティ企業のマカフィーとトレンドマイクロ。画像生成ツールの Stable Diffusion を作成することで知られる Stability AI です。

注目すべきことに、もう 1 つの人気のある AI 画像生成ツール、Midjourney が存在しません。サンフランシスコに拠点を置くこのスタートアップは金曜日にコメントを求めたが、すぐには返答はなかった。

保留中の合意に関する以前の発表では言及されていなかったが、Xが含まれていることは金曜日の合意の驚きの1つだった。

マスク氏は旧ツイッター社を引き継いだ後、コンテンツ管理チームを大幅に削減し、自身を「言論の自由の絶対主義者」と称している。

X社のリンダ・ヤッカリーノ最高経営責任者（CEO）は金曜の声明で、「すべての国民と企業には自由で公正な選挙を守る責任がある」と述べた。

「Xは、言論の自由を保護し、透明性を最大限に高めながら、AIの脅威と戦うために同業他社と協力して、その役割を果たすことに専念している」と彼女は述べた。