公開日
この記事をシェアする 
ChatGPTの作成者は、児童の性的虐待素材や性的ディープフェイクなど、特に有害な形式の虐待をブロックしていると述べた。
OpenAI は、AI 作成ビデオ ツールを、料金を支払った何百万人ものユーザーにリリースしています。チャットGPT、人工知能の次の波を示しています。
同社は月曜日、Sora ビデオジェネレーターの最新バージョン、Sora Turbo をリリースした。これにより人々は、フォトリアルに見える 20 秒のビデオコンテンツを作成できるようになり、ディープフェイクビデオがさらに増えるのではないかとの懸念が高まっている。
OpenAI同製品はおそらく規制のため、欧州経済領域、スイス、英国ではまだ入手できないだろうと述べたが、後日欧州市場に投入されたOpenAIの他の製品も同様だった。
「私たちはそこに打ち上げられるように全力を尽くします。」OpenAI CEO サム・アルトマンと月曜日に言った。
同社はまた、このツールの違法使用を防止したいと考えているが、「しかし、創造的な表現とのバランスも図りたいと考えている」と同氏は付け加えた。
OpenAIは、目に見える透かしや検証メタデータなど、いくつかの安全対策を実装していると述べた。同社はディープフェイクの緩和策を改良していると述べているため、人物の画像のアップロードには当初は制限が設けられる予定だ。
同社はブログ投稿で、児童への性的虐待素材や性的ディープフェイクなど、特に有害な形式の虐待をブロックしていると述べた。
ユーザーコンテンツのモデレーションは「少し保守的」に始まるが、「十分に理解できない場合は、そのフィードバックを私たちに送ってください」とアルトマン氏は語った。
OpenAIソラにはまだ限界があるとも述べた。 「非現実的な物理現象が生成されることが多く、長時間にわたる複雑な動作に苦労する」と同社は述べている。
OpenAI は 2 月に初めて Sora を発表しましたが、選ばれた映画制作者、アーティスト、安全試験担当者のみがアクセスできました。
AI ビデオ ツールに取り組んでいるのは OpenAI だけではありません。 Meta は Movie Gen を開発しており、Google は Veo ビデオ ジェネレーターをリリースしています。ただし、どちらも一般には公開されていません。
