ディープフェイク技術はここ数年で人気が急上昇しており、超現実的な方法でビデオや音声を加工できるようになり、ディープフェイク技術の作成はかつてないほど簡単になりました。
ディープフェイクを作成するには、誰かの顔の写真が数枚だけ必要です。
顔交換アプリやソーシャルメディア上の複数のフィルターの基礎となるため、面白半分に使用する人もいますが、政治家のフェイクビデオから詐欺まで、悪意のある用途もいくつかあります。
特に女性は、同意なしに放送されることが多いディープフェイクポルノの標的となっています。
2019 年、人工知能 (AI) 専門企業ディープトレースは次のように推定しました。ディープフェイクビデオの96パーセントはポルノで構成されており、大部分は登場人物の同意なしに作成されました。
「これは違反です。これは人間性を奪うものです。そして現実には、これは人の雇用適性に影響を与える可能性があることを私たちは知っています。これは人の対人関係や精神的健康に影響を与える可能性があります」と述べた。ノエル・マーティン活動家であり、西オーストラリア大学の研究者でもあり、10年間画像に基づく虐待に取り組んできました。
最近の事件の一つでは、11歳ほどの十代の少女たちが標的にされ、写真がソーシャルメディアを通じて高校のクラスメートと共有された。
女性をターゲットにした現象
ディープフェイク現象は、2017 年に Reddit などの専門フォーラムで初めて観察され、ウェブ上で大量の画像が入手できるため、女性有名人が標的にされました。
「このコンテンツを作成している人々のフォーラムで私が目にする最も憂慮すべき傾向の 1 つは、被害者にとってこれが依然として現実であることを理解せず、結果が超現実的ではないため、冗談だと考えているか、深刻ではないと考えていることです。本当に痛くてトラウマ的だ」と生成AIの専門家ヘンリー・アジダー氏は語った。
しかし現在、このテクノロジーがより広く利用可能になるにつれ、すべての女性が社会的および心理的影響の深刻なリスクを懸念しています。
「自分自身が同意していない方法で描かれるのを見るのは恐ろしく、衝撃的です」とマーティンさんは語った。
「現実は、これが人の雇用適性に影響を与える可能性があることを私たちは知っています。これは、人の対人関係や精神的健康に影響を与える可能性があります」と彼女は付け加えた。
場合によっては、女性の仕事の信用を傷つけるためにディープフェイクが作成されることがあります。
活動家のケイト・アイザックスとジャーナリストのラナ・アイユブは、職業上の活動によりディープフェイクを使用した中傷キャンペーンの被害者となった。
さらに、ディープフェイクを検出するのは簡単ではありませんが、特にテクノロジーが進歩するにつれて。
「現実的には、個人や個人の肉眼は、偽物を見分けるための信頼できる指標にはなりません。ご存じのとおり、現在でもそうですが、特に出力の品質が向上するにつれて、将来はさらに進むでしょう」とアジデル氏は述べた。
米連邦捜査局（FBI）は最近発表した公共サービス発表の中で、「未成年の子供や同意のない成人を含む、写真やビデオが露骨な内容に改変された被害者からの報告を引き続き受けている」と述べた。
ディープフェイクポルノが恐喝に利用されたケースもあった。
「2023 年 4 月の時点で、FBI は、ソーシャル メディア サイトやウェブ投稿に投稿されたコンテンツから作成された偽の画像やビデオ、要求に応じて悪意のある攻撃者に提供された、またはビデオ チャット中にキャプチャされた偽の画像やビデオの使用を報告するセクストーション被害者が増加していることを観察しました。 」と発表には書かれている。
犯罪は処罰されない
ディープフェイクは検出が難しく、議員らがこの技術に追いつくことを試みているため、訴追するのも難しい。
英国法務省は2022年末、本人の同意なしにディープフェイクを共有すると投獄される可能性があると発表した。台湾も同様の法案を施行した。
ヨーロッパでは、デジタル サービス法 (DSA) は同意のないディープフェイクの問題に取り組んでいません。しかし、EU AI法草案は交渉が終了したところですが、より強固な法的枠組みを提供するはずです。
米国では、カリフォルニア、テキサス、バージニアを含むいくつかの州同意のないディープフェイクを犯罪としました。
「政府、法執行機関、現場の人々、被害者コミュニティから、ある種の世界規模の対応が必要です。ですから、誰かの人生を台無しにして何の影響も受けずに済んでしまうわけにはいかない人々には責任があります。 」とマーティンは言いました。
このストーリーの詳細については、上のメディア プレーヤーでビデオをご覧ください。
