生成AIツールは、仕事や創造的な取り組みを支援するなど、日常のテクノロジーに欠かせないものになりつつあります。しかし、その人気の高まりは、誤情報の拡散やフィッシングなどの悪用リスクももたらします。この問題に対処するため、AI 生成コンテンツに透かしを入れ、ユーザーが AI 生成コンテンツと人間生成コンテンツを区別できるようにする新しいデジタル ツールキット SynthID が昨年導入されました。
このツールキットは、Gemini アプリと Web エクスペリエンスの AI 生成テキスト、および洗練された生成ビデオ モデルである Veo のビデオに透かしを入れる機能が追加されました。テキスト用の SynthID は、一般的な AI テキスト生成モデルで動作するように調整されており、スケーラブルです。一方、ビデオの透かし入れは、ビデオのすべてのフレームをカバーするように方法を拡張します。この革新的なアプローチは、透かしを検出できない方法で埋め込み、生成されたコンテンツの整合性と品質を維持します。
SynthID は AI 生成コンテンツを識別するための究極のソリューションではありませんが、より信頼性の高い識別ツールの開発に向けた重要な一歩です。このツールは、AI 生成コンテンツを扱う際に、何百万人もの人々が情報に基づいた決定を下せるよう支援することを目的としています。今年後半には SynthID のテキスト透かしコンポーネントをオープンソース化する計画があり、開発者はこのテクノロジーを独自のモデルに統合できるようになります。
テキストの透かし処理では、特定のトークンが使用される可能性を調整することで、テキスト生成フェーズで微妙な透かしを埋め込みます。これは、出力の品質や創造性には影響しません。透かしは、テキストの出所を確認するために使用できるスコアの一意のパターンです。多くのシナリオで効果的ですが、テキストが大幅に書き直されたり翻訳されたりすると信頼性が低下するなどの制限があります。
SynthID のテキスト透かしは、正確さが何よりも重要となる事実に基づくプロンプトでは効果が低くなります。異なるプラットフォーム間で一貫性を保つのが難しい分類器とは異なり、SynthID は単独で使用することも、他の検出方法と組み合わせて使用してより包括的なアプローチをとることもできます。執念深いサイバー攻撃者を阻止するようには設計されていませんが、AI 生成コンテンツを有害な目的で使用することをより困難にすることができます。
ビデオの場合、画像ツールからヒントを得た透かし技術により、ビデオのすべてのフレームに透かしが埋め込まれます。この透かしは肉眼では見えませんが、識別目的で検出できます。ビデオ生成技術が進化し、AI 生成ビデオを識別する必要性が高まっているため、これは非常に重要です。本日から、VideoFX 上の Veo 生成ビデオには SynthID 透かしが埋め込まれます。
今後、SynthID のテキスト透かし技術は、より広範な AI エコシステムの一部となる予定です。詳細な研究論文が公開され、この技術は更新された Responsible 生成AI Toolkit を通じてオープンソース化される予定です。この動きにより、開発者は SynthID をモデルに組み込むことでより安全な AI アプリケーションを作成できるようになり、AI 生成コンテンツの責任ある使用に貢献します。
ソース：DeepMind Blog
