Twitter は、ディープフェイク動画の増加に対処し、それに対抗するための新しいポリシーを発表する最新のソーシャル プラットフォームです。
ディープフェイク（「合成および操作されたメディア」）は、人工知能を使用してリアルに改変された動画であり、改変された情報を拡散するものとして大きな注目を集めています。
しかし異例の措置として、Twitterは新たな戦略を制定する前にユーザーや他の専門家からのフィードバックを求めている。
同社はスレッドで「合成メディアが潜在的に有害な状況でTwitter上でどのように共有されるかを検討する必要がある」と述べた。
「私たちは、政策策定プロセスにおいて皆様の視点に耳を傾け、検討したいと考えています。私たちは、私たちのアプローチと価値観について透明性を保ちたいと考えています。」
Twitterの最高法務責任者であるVijaya Gadde氏は、「多くの人がこの分野に大きな関心を持っており、このコンテンツをどのように扱うべきかについて多くの考えを持っていると考えている」と述べた。
しかし、Twitterはその後のポリシー変更をいつ実施するかについては明らかにしていない。
ウィットネスのプログラムディレクターであるサム・グレゴリー氏は、ディープフェイクの監視について国民に相談する取り組みを賞賛したが、さらなる行動が必要だと強調した。
「ディープフェイクは、ジャーナリストに虚偽の情報を共有させ、騙すために動員されている…したがって、Twitterを使用しているジャーナリストが反応するのは良いことだが、それだけでは十分ではない。
「こうした議論が世界規模で行われ、すでに被害を受けている人々も含まれることが重要だと思います。」
Twitterは、ポリシーの変更が「誰かの身体の安全を脅かしたり、オフラインでの危害につながる」可能性のあるコンテンツの取り締まりに焦点を当てることになると認めた。
2018年、ソーシャルメディア大手は、有名人の顔を映すように編集されたポルノディープフェイク動画を禁止した。
グレゴリー氏は、不必要なパニックを引き起こすことを避けるために、同社は現在ディープフェイクの問題について注意深く説明する必要があるとユーロニュースに語った。
「Twitterはこのポリシーを包括的なものにし、構築しているツール、調査官とデータをどのように共有するのか、そして自分たちが見ているものをどのように一般の人々に説明するのかについてもっと説明する必要がある。」
方針変更の発表はサム・グレゴリーに、ツイッターが今やフェイスブックに「追いついている」ことを示唆した。
一方、Facebookは、アマゾン ウェブ サービスや学術専門家と協力して、プラットフォーム上で改ざんされたビデオや画像を検出する新しいツールの開発を加速すると発表した。
Facebookの最高経営責任者（CEO）マーク・ザッカーバーグ氏は以前、ソーシャルネットワークは2020年の米大統領選挙に先立ち、誤った情報に対する潜在的な政策を「評価」していると述べた。
でブログ投稿, Amazon は、今後 2 年間で最大 100 万ドル (897,00 ユーロ以上) の AWS クレジットを「ディープフェイク検出チャレンジ」に寄付すると発表しました。
ウォール・ストリート・ジャーナルのテック・ライブ・カンファレンスで講演したフェイスブックの最高技術責任者マイク・シュロプファー氏は、「ディープフェイクの作成には多くの進歩した技術があるが、現時点ではディープフェイクを識別する優れた技術はあまりない」と述べた。
シュロプファー氏は月曜日、フェイスブックが新たなプロジェクトの一環としてパートナーが研究できる5,000件のディープフェイクのセットを公開したと述べた。
テクノロジー大手のマイクロソフトとオックスフォード大学の学者もこの取り組みに参加している。
オックスフォード大学のフィリップ・HS・トール教授は声明の中で、操作されたメディアを次のように述べています。民主主義、ひいては自由に対する根本的な脅威”。
しかし、このプロジェクトは、悪意のある攻撃者がFacebookのデータセットや参加者が作成したコードを悪用できるのではないかという疑問の声があり、反対に直面している。
Facebookはこれまで、プラットフォーム上のディープフェイク動画や誤った情報の取り締まりに苦戦しているとして批判されてきた。 5月には、米国下院議長ナンシー・ペロシのデジタル加工された動画が拡散したが、動画は彼女がろれつが回っていないように見せるためにスロー再生されていた。
Facebookは最終的にビデオをダウングレードして共有されないようにしたものの、プラットフォームからは削除しなかった。
マーク・ザッカーバーグ氏自身がビデオで編集され、イスラエルの会社Canny AIが作成したディープフェイクでのユーザーデータの管理について力強い演説を行った。
The Cube で Alex Morgan のレポートを視聴するには、上のプレーヤーをクリックしてください。
