今年オンラインで発見されたディープフェイク動画の数は2019年と比べて550パーセント増加しており、その大部分がディープフェイクポルノ動画であることが分析で判明した。
生成人工知能 (AI) などの新しいテクノロジーの台頭により、ディープフェイク コンテンツの作成が大幅に増加しました。ディープフェイク コンテンツとは、ビデオ、画像、音声などを通じて、デジタル的に変更または生成された、実在の人物やシナリオを描写していると称するコンテンツです。
ディープフェイクポルノの被害者らは、こうした架空のシナリオで自分の人物が描かれることがいかに人生を破壊するかについて語り、ある者はこれを「終身刑」と呼んだ。
ディープフェイク コンテンツは、超現実的なコンテンツを生成できる機械学習アルゴリズムによって作成されます。悪意のある者はこれを利用して、被害者をターゲットにしたり、人々を脅迫したり、犯罪や政治的操作の手段として利用したりする可能性があります。
2023年のディープフェイクに関する包括的な報告書では、オンラインで見つかったディープフェイクビデオ全体の98パーセントがディープフェイクポルノであり、ディープフェイクポルノの標的となった被害者の99パーセントが女性であることが判明した。
オンライン個人情報詐欺から人々を守ることを目的とした Web サイト（homesecurityheroes.com と呼ばれる）のアナリストは、95,820 件のディープフェイク動画、85 の専用オンライン チャネル、およびディープフェイク エコシステムにリンクされている 100 以上の Web サイトを調査し、2023 年のディープフェイクの現状レポート。
この報告書の主な発見の 1 つは、被害者の鮮明な顔画像 1 枚を使用して、誰でも 1 分間のディープフェイク ポルノビデオを作成するのに 25 分もかからず、費用もかからないということです。
同ウェブサイトが分析したディープフェイクポルノビデオの大部分は韓国人女性のものだった。韓国に次いでディープフェイクポルノの被害者が最も多かった国籍は、米国、日本、英国だった。
韓国におけるディープフェイクポルノの蔓延
韓国はディープフェイクポルノの被害者が群を抜いて多い国であり、報告書のアナリストらはこれがK-POPの世界的な人気のせいだと考えている。韓国最大のガールズポップグループとみられるブラックピンクのメンバー４人のうち３人が、最も標的にされた人物トップ１０に入っている。
同報告書の調査分析責任者、クリス・グエン氏は、「K-POPアイドルは、韓国内でも海外でも、その知名度とファンの支持が広く知られていることで知られている」と説明した。 「彼らの公開プロフィールと広範なファンベースは、彼らが関与するディープフェイクポルノの作成と配布がより多くの視聴者に届く可能性が高いことを意味します。
知名度の高さに加えて、K-POPアイドルをフィーチャーしたコンテンツに対する需要も「非常に高い」とグエン氏は語った。 「特にアダルト専用ウェブサイトで、注目を集めてより多くのトラフィックを生み出すことを目的として、露骨なディープフェイク コンテンツを作成することでこの需要を利用する人もいます。」
同氏はまた、韓国のポルノに対する厳格な規制が、そのようなコンテンツの作成と配布を促進するのにどのような役割を果たしている可能性が高いかを指摘した。
「これは、情報を隠蔽、削除、検閲しようとする意図せぬ結果である『ストライサンド効果』に関連している可能性があります。このような場合、その情報に対する認識と関心が実際に増幅されるため、結果は裏目に出ます。」
インターネット上に広がるディープフェイク
アナリストらは、ディープフェイク ポルノの蔓延状況を調べたところ、最もアクセス数の多いポルノ Web サイトの上位 10 件のうち 7 件がディープフェイク コンテンツをホストしていることを発見しました。
ディープフェイクポルノ専用のトップ10ウェブサイト全体でのビデオ再生回数は3億300万回を超えており、アナリストらは、このようなコンテンツがいかに広く普及し、人気が高まっているかを示していると述べている。
彼らは、このようなコンテンツを作成する際に必要な倫理的考慮事項に焦点を当て、そのようなコンテンツに対する態度についての会話を呼びかけています。
研究者らは、ディープフェイクコンテンツの急増は2つの要因によるものだと考えている。まず、敵対的生成ネットワーク (GAN) と呼ばれる、生成 AI に使用される機械学習フレームワークの一種の出現により、ディープフェイク コンテンツを作成するための技術的手段が提供されました。
第二に、GAN 上に構築されたツールに簡単にアクセスできるということは、ほぼ誰でもディープフェイク コンテンツを迅速かつ安価に作成できることを意味します。
「これらのプラットフォームは、単純な顔の交換からより複雑なビデオ操作まで、幅広い機能を提供します」とレポートでは説明されています。著者らは、ディープフェイク作成専用のオンライン コミュニティの成長により、「コラボレーション、知識の共有、オープンソース プロジェクトの開発が促進された」と付け加えています。
