公開日•更新されました
この記事をシェアする 
Google Deepmind によって開発されたこのアルゴリズムは、AI の生成を微妙に変更して検出可能にします。
人工知能 (AI) によって生成されたテキストに透かしを入れる Google の技術が、誰でも利用できるようになりました。
SynthID は、AI を専門とする同社の研究所である Google Deepmind によって開発されたツールで、オープンソースになったばかりです。
これは、生成されたテキストにわずかな変更を加えることで機能し、「生成されたテキストに統計的な署名を導入する」とのことです。Nature に掲載された論文。
これらの署名は「人間には感知できない」とGoogleは投稿で指摘開発者専用のビッグテック巨人のブログで。
透かし入れプロセスは生成を遅くせず、「多くの場合独自の」大規模言語モデル (LLM) にアクセスする必要がない、と Nature の記事は述べています。
「今後、他の[生成] AI 開発者はこのテクノロジーを使用して、テキスト出力が自分の [LLM] からのものであるかどうかを検出できるようになり、より多くの開発者が責任を持って AI を構築することが容易になります。」と副社長の Pushmeet Kohli 氏は述べています。 Google DeepMind の研究について語ったMITテクノロジーレビュー。
同社は、チャットボット Gemini を通じて透かしツールのテストを実行しました。彼らはチャットからの約 2,000 万件の透かし入りおよび透かしなしの応答を分析し、その品質に関するフィードバックに統計的に有意な差は見られませんでした。
このアルゴリズムは現在、「誤った情報や誤った帰属の問題を引き起こす可能性があるという懸念がある」ため、Gemini と Gemini Advanced に導入されているとブログ投稿には記載されています。
「透かしは、これらの潜在的な影響を軽減するための 1 つの手法です。」
研究者らによると、テキストの多様性と異質性を分析して、それが言語モデルによって生成されたのか人間によって生成されたのかを判断するなど、「既存の方法と比較して優れた検出可能性」を提供します。
これは GPTZero などで使用される方法ですが、誤検知や誤検知が発生する可能性があります。
ただし、SynthID テキストであっても確実な方法ではなく、テキストが「徹底的に書き換えられるか、別の言語に翻訳される」場合にはスコアが低下する傾向があります。
Deepmind はまた、画像のピクセルまたは目には見えないビデオの各フレームに電子透かしを直接埋め込むことで、AI によって生成された画像やビデオにマークを付けるツールも開発しました。
ウォーターマークは、トリミング、サイズ変更、圧縮、フィルターの追加などの一般的な画像やビデオの操作に耐えられるように作られています。
