AP通信によるAIツールのテストによると、人気の人工知能画像生成ソフト「Midjourney」は、来る米国大統領選挙に先立ち、ユーザーがジョー・バイデン大統領とドナルド・トランプ元大統領の偽画像を作成することをブロックし始めた。
選挙が本格化する中、ミッドジャーニーの最高経営責任者（CEO）デイビッド・ホルツ氏は水曜日のデジタルオフィスアワーイベントで、同サービスの熱心なユーザーベースの会員数百人に対し、「選挙関連のことには少し手を緩める時期が来た」と語った。
ホルツ氏は「このモデレーションはちょっと難しい」と述べ、具体的にどのようなポリシー変更が行われるのかについては説明しなかったが、取り締まりは人々がツールを乱用しにくくするための一時的な措置であると説明した。コメントのリクエストに。
AP通信の記者らが水曜日、ミッドジャーニーの新方針をテストしようとして「トランプとバイデンがビーチで握手している」画像を作成するよう依頼したところ、「禁止されたプロンプトが検出されました」という警告が出された。 2 回目の試みでは、警告が「不正行為の警告がトリガーされました」にエスカレートされました。
同社のウェブサイトによれば従業員数はわずか 11 人というこの小さな会社は、生成 AI ツールがどのようにして世界中で選挙の誤報を煽る可能性があるかという公開討論ではほとんど沈黙を守ってきた。
ミッドジャーニーは、有権者を意図的に騙すAI生成のディープフェイクに対抗するための2月のテクノロジー業界自主協定に参加しなかった、大手画像生成ツールの唯一のメーカーだった。
ホルツ氏は水曜日、「私は政治的言論にはあまり興味がない」と語った。
「それはミッドジャーニーの目的ではありません。私にとってはそれほど面白くありません。とはいえ、私は政治的言論の取り締まりにすべての時間を費やしたくないとも思っています。だから、私たちはそれに少し足を踏み入れるつもりです。」
デジタルヘイト対策センターは今月初めに報告書を発表し、ミッドジャーニーはすでに政治候補者に関する偽情報や選挙不正の虚偽主張を裏付ける可能性のある画像の作成に利用されていると結論づけた。
同グループの研究責任者カラム・フッド氏は水曜日のインタビューで、「ジョー・バイデンやドナルド・トランプのような有名な政治家の画像を生成することに関しては、ミッドジャーニーは他のAI画像生成装置の中で最も制御が少ないようだった」と語った。
「Midjourney は、そうした画像を積極的に生成するという点と、候補者の非常に説得力のある画像を生成するという点で、ほとんどユニークでした。」
監視団体はMidjourneyのほか、OpenAIのChatGPT Plus、Stability AIのDreamStudio、MicrosoftのImage Creatorをテストしたところ、いずれも問題があり、ケースの41％で選挙に関する偽情報が作成されたことが判明した。
しかし、「Midjourney のパフォーマンスはどのツールの中でも最悪で、テスト実行の 65% が失敗した」と報告書は述べています。
フッド氏は、ミッドジャーニーが今週ポリシーを変更したかどうかは知らないが、「これらの画像をブロックするという同社の決定は、他の人気のある画像ジェネレーターと比較して大きな弱点を封じるのに役立つだろう」と述べた。
「2028年の異世界」
つい先週の終わりごろ、ミッドジャーニーの公開データベースによると、ユーザーは「小さな電気自動車に座っているドナルド・トランプの抽象的な写真」や「アイスクリームを食べているジョー・バイデン」などのプロンプトに基づいて画像を作成することに成功していた。
しかし、バイデンやトランプの画像を作成しようとすると警告を受けたとユーザーが報告したため、ここ数日で状況が一変した。ミッドジャーニーが変更された方針を適切に伝えていないと不満を訴える人もいた。
Midjourney が他の画像ジェネレータと異なるのは、すべてがソーシャル メディア プラットフォーム Discord の公開フォーラムで行われるため、ほとんどの他のユーザーが書いたプロンプトや画像をユーザーが見ることができる点です。
Midjourney の Discord グループには 1,900 万人以上のメンバーがおり、チャット プラットフォーム上のグループの中で最大です。ここはホルツ氏が週に一度のオフィスアワーを開催する場所で、AI や人類の未来に関する幅広い会話に及ぶ可能性があります。
ホルツ氏は水曜日、「2024年に偽画像を恐れる人は、2028年に大変な思いをすることになるだろう」と語った。 「その時点では全く違う世界になるでしょう。たとえば、2028 年の大統領選にも人間が立候補することは明らかですが、彼らはもはや純粋な人間ではなくなります。」
その時点でのすべての候補者は、模擬的な会話ポイントを備えた本物そっくりの「ディープフェイク チャットボット」を使用することになるだろうと同氏は述べた。ホルツ氏は水曜日、本当にディープフェイクを作りたい人は「特定の人に合わせて微調整でき、我々のシステムよりもうまく機能する」代替手段を見つけるだろうと警告した。
サンフランシスコ近郊に拠点を置き、2020 年に設立された同社は、自らを「新しい思考媒体を探求し、人類の想像力を拡張する独立した研究機関」であると説明しています。
同社は、2022 年 7 月に画像ジェネレーターの公開バージョンを初めて発表しました。それと、その夏の終わりに主要なライバルである Stable Diffusion がリリースされたことにより、生成 AI テクノロジーへの関心が高まり、数か月後の ChatGPT のデビューでさらにその魅力が高まりました。
ホルツ氏は同年後半にAP通信に対し、ミッドジャーニーは通常、特定のキーワードをブロックし、モデレーターチームに出力を追跡させ、他のユーザーからの苦情に対応させることで、攻撃的で有害なコンテンツの禁止に取り組んでいると語った。
「私たちは人々が可能な限り幅広い画像セットを作成できるように努めていますが、サービスへの人々のアクセスを毎日禁止しています」とホルツ氏は2022年後半に述べた。
