AI ツールを使用すると、ポルノ写真やビデオを簡単に加工して、人物の「ディープフェイク ポルノ」を作成できます。被害者らは被害は取り返しのつかないものだと主張している。
ノエル・マーティンは、自分のポルノ写真がオンラインで流通していることを発見したとき、まだ 18 歳でした。彼女は親密な画像を撮ったことはおろか、共有したことも覚えていなかった。しかし、それらの画像に写っているのは彼女の顔であり、体は彼女のものではありませんでした。
彼女は後に「ディープフェイク」として知られるものの被害者となった。ポルノ写真は、彼女が個人のソーシャルメディアアカウントで共有した画像を使用して、彼女のように見えるように加工されていた。
「これは終身刑だ」とマーティン氏はユーロニュース・ネクストに語った。 「それは人々の生活、生計、雇用の可能性、対人関係、恋愛関係を破壊する可能性があります。そして、誰かが標的になったらできることはほとんどありません。」
ディープフェイクは、偽のシナリオで誰かを描写するために作成された、デジタル的に変更されたビデオまたは画像です。ディープフェイク技術は理論的には、より気軽な、風刺的な、または善意の目的に使用できますが、2019 年の Deeptrace Labs報告オンラインのディープフェイク コンテンツの 96% が同意のないポルノであることが判明しました。
ちょうど今週、ニューヨークに住む22歳の男性が宣告されたソーシャルメディアアカウントから撮影した10代の写真を使用して、元学校の同級生のディープフェイクポルノ写真を投稿した罪で懲役6か月。
正義のために戦う
2013年に同じことが彼女に起こったとき、マーティンさんは警察に行き、画像の削除を求めることで被害を抑えようとした。しかし、当時彼女が住んでいたオーストラリアでは親密な画像の流布を禁じる法律がなかったことを考えると、彼らにできることは何もなかった。
「たとえ、何かを削除しようとすることができたとしても、あなたがこの被害者になった場合、誰の責任を追及するかという問題がまだ残っています。なぜなら、公開サイト、これらのウェブサイト、あるいはどこからでも削除することは、彼らがホストされているということは、これに対する要素の 1 つにすぎません」と Martin 氏は言いました。
「加害者の責任を問わなければ、あるいは誰が責任を負っても、責任を負わなければ、彼らは依然としてこの行為を続ける可能性がある」と彼女は付け加えた。
マーティンは法律の分野でのキャリアを追求し、オーストラリアで同意のない親密な画像の共有を禁止する法案の推進に何年も費やしました。 2018年、彼女の努力により、彼女の国で同意のない親密な画像や「リベンジポルノ」の配布を犯罪とする新しい法律が制定されました。
彼女自身のトラウマ的な体験から 10 年が経ち、現在 28 歳の弁護士で西オーストラリア大学の法的研究者であるマーティンは、同意のない性的コンテンツ、特にディープフェイク技術を使用して作成されたコンテンツの共有に反対することを今でも主張しています。
「最終的に、私たちが被害者コミュニティとしてやろうとしていることは、法律の制定を促し、世界中の国々にこの問題を犯罪化するよう促し、被害者が確実に助けを求められるようにインフラの整備を促すことです」と彼女は語った。 。
ポルノディープフェイクの台頭
ポルノのディープフェイクは何年も前からオンラインで発見されてきましたが、最近の人工知能 (AI) の大幅な進歩とそのようなテクノロジーの利用しやすさの向上により、不気味なほどリアルで欺瞞的な性的な素材の作成が容易になりました。
ディープフェイクが最初に登場したとき、その背後にある主な目的は、有名人の顔をフィーチャーしたポルノビデオを作成することでした。
ディープフェイクという用語自体は、2017 年にソーシャル プラットフォーム Reddit 上でその別名を持つユーザーが、スカーレット ヨハンソンやテイラー スウィフトなどの女性有名人の改ざんされたポルノ動画を作成して共有したことで知られるようになったときに表面化しました。
最近では、1月にポルノディープフェイクが話題になった。Twitchの人気ストリーマー、ブランドン・ユーイング（オンラインでは「Atrioc」と呼ばれる）が、プラットフォームでのライブストリーム中にブラウザでディープフェイクポルノサイトを開いているところを捕らえられた。このサイトには、Twitch ストリーマーや友人の改ざんされた画像が掲載されていました。
その後、ユーイング氏は涙ながらの謝罪をし、数週間ストリーミング活動を停止したが、Twitchはコミュニティガイドラインを更新し、プラットフォーム上でディープフェイクポルノを禁止した。
ユーイング氏は謝罪文の中で、人気のポルノウェブサイトでディープフェイクポルノの広告を見て「病的な好奇心」を抱き、クリックしてお金を払って動画にアクセスしたと述べた。
Twitchの女性ストリーマーたちは自分たちの名前が論争に巻き込まれるのを目にしたが、その多くはそのようなコンテンツがオンラインに存在することさえ知らなかったと述べた。
実際、Twitchのスキャンダルにより、「ディープフェイクポルノ」、「ポルノディープフェイク」、「ディープフェイク」というフレーズのオンライン検索が急増したという。Googleトレンドデータ。
ソフィー・コンプトン、連合の共同創設者私のイメージ 私の選択親密な画像の不正使用に反対する活動を行っている団体は、この論争はディープフェイクウェブサイトのユーザーも問題の一部であり、責任を負うべきであることを示していると述べた。
「それはクリエイターだけではなく、ユーザー全員です。そして、彼らは普通の男の子です。これは私たちの学校の人々であり、おそらく一部の女性もいます。しかし、ほとんどが男性です。そして、これはクラスメート、友人、兄弟、ボーイフレンド、 」とコンプトン氏はユーロニュース・ネクストに語った。
「彼らは、自分たちの参加も問題の一部であることに気づいていないのかもしれません。そして、それは女性にとって非常に、非常に有害な何かを検証するのに役立ちます。」
ディープフェイクが被害者に対してどのように利用されるか
有名人のポルノディープフェイクは何年も前から存在していましたが、最近の AI の進歩により、今日では事実上誰もがそのようなコンテンツの被害者になる可能性があります。
このテクノロジーは、人々を黙らせたり、弱体化させたりするために、人々の信用を傷つけたり、脅迫したりするためにも使用できます。
「毎月のように新しいディープフェイクポルノウェブサイトが出現しており、これらは商業化されたビジネスに発展している」とコンプトン氏は述べ、これらは明らかに何の処罰も受けずに開設されていると付け加えた。
「人々は一種のディープフェイカーとしてのブランディングを行っており、ビットコインやPayPalを受け入れており、キャッチフレーズやストラップライン、ロゴを持っています。」
ポルノディープフェイクの作成と共有の背後にある動機が、被害者を当惑させたり、中傷したり、嫌がらせをしたりすることなのか、それとも単にお金を稼ぐことなのかにかかわらず、そのコンテンツは、本物か偽物かにかかわらず、あからさまな画像を使って女性を貶め、客体化するという一部の男性の空想を反映していることが多い。
マーティン氏はユーロニュース・ネクストに対し、「被害に遭った人の観点からすれば、たとえそれが偽物だとわかったとしても、あるいは完全に現実的ではないとしても、被害は依然として取り返しのつかないものである」と語った。
「あなたのディープフェイクが作成されたとしても、たとえそれがなんとなくわかったとしても、人々はあなたが描かれているものすべてをあなたと結びつけるでしょう。それでもあなたが悪用される可能性はあります。あなたの評判、名前、イメージが泥の中を引きずられる可能性は依然としてあります」 」。
インドの調査ジャーナリストでワシントン・ポストの寄稿者であるラナ・アイユブは、口封じを目的として彼女のポルノディープフェイクが使用された中傷キャンペーンの被害者となった。
彼女は自分の悲惨な経験を次の本の中で詳しく述べましたカラムそこで彼女は、イスラム教徒の女性でありながら、歯に衣を着せぬ物言いをし、「反体制的」とみなされることが、いかにソーシャルメディア上で憎悪の対象となっているかを説明した。
しかし、彼女のフェイクポルノビデオが拡散したことで、彼女が慣れ親しんでいたオンラインでの虐待が突然非常に現実的に感じられ、彼女は非常にショックを受け、家族に会うことすらできなくなった。
「国中が私だと主張するポルノビデオを見ていたのですが、私は何もする気になれませんでした」と彼女は語った。
「ビデオが公開された日から、私は以前の人間ではなくなりました。以前は非常に自分の意見を持っていましたが、今ではオンラインに投稿する内容についてより慎重になりました。必要に迫られて、かなりの部分を自己検閲してきました。 」と彼女は書いた。
「これは非常に危険なツールであり、我々がそれを使ってどこへ向かうのかわかりません。」
ポルノディープフェイクから私たちを守る法律や規制はありますか?
活動家らは、現在、ディープフェイクを作成して人を公に辱めることが非常に簡単で、規制と説明責任の欠如が被害者を逃がしていると述べている。
「こうした書類を作成している人々に送られているメッセージは、誰もあなたのために来ていないということだ。あなたのやっていることは違法ではないし、何の結果も生じない」とコンプトン氏は語った。
欧州連合は、有害なオンライン コンテンツに対処するための新しい規制を提案していますが、合意のないポルノのディープフェイクから人々を完全に保護できることはまだ証明されていません。
たとえば、人工知能法現在欧州議会で議論されているこの法案では、コンテンツが人為的に生成または操作された場合には、クリエイターに明確に開示することが求められています。しかし活動家らは、コンテンツが世に出て永遠にリンクされてしまえば、免責条項はディープフェイクの作成者を阻止したり、被害者に正義をもたらしたりすることはほとんどないと主張する。
ただし、EU でもう 1 つの法案が策定されています。ジェンダーに基づく暴力に関する指令この法案は、親密な画像を同意なく共有することを犯罪とし、加害者は懲役刑に処される可能性があります。第 7b 条では、特にディープフェイクについても言及しています。
テクノロジー企業とオンラインプラットフォームの役割
その一方で、被害者たちはディープフェイクポルノコンテンツを取り締まるためにポリシーを更新するオンラインプラットフォームに希望を託している。
画像生成ツール DALL-E を開発する OpenAI は、すでにデータから露骨なコンテンツを削除し、有名人や政治家の画像の作成をブロックするリクエストをフィルタリングしています。
もう 1 つの人気のある AI モデルである Midjourney は、特定のキーワードをブロックし、問題のある画像をモデレーターに報告するようユーザーに促します。
TikTokはまた、ディープフェイクや操作されたコンテンツには偽物または改変されたものとラベルを付けることを義務付け、民間人や若者のディープフェイクを禁止した。
Twitchはコミュニティガイドラインを更新した際、ディープフェイクポルノの意図的な宣伝、作成、共有は即時禁止につながると警告した。たとえそれが怒りを表現することを目的としたものであっても、そのようなコンテンツを垣間見せた場合でも「削除され、強制執行の対象となる」と同社はブログ投稿で述べた。
一方、Meta、OnlyFans、Pornhubはすべて、10代の若者がインターネットから自分自身の露骨な画像やビデオを報告できるようにする新しい「Take It Down」ツールへの参加を開始した。
「これに対処するには法執行機関、政府、規制当局が団結する必要がある。世界中の国内諸国が独自に対処するだけでは、できることは限られているからだ。これは世界的な問題であり、世界的な解決策が必要だ。 」とマーティンは言いました。
「また、被害者と生存者は、この問題について決定が下されるときは常にテーブルに着く必要があるとも言います。なぜなら、彼らは私たちについて、私たちのために、しかし私たち抜きで下される決定から除外されることが非常に多いからです」と彼女は付け加えた。
