Generatived（Beta）｜生成AIの最新ニュースとトレンドを提供

Sora 2と付属のSoraアプリは、ユーザーの安全性とコンテンツの真正性を重視した、動画制作のための共同プラットフォームを提供します。このプラットフォームでは、制作されたすべての動画に目に見える透かしが付けられ、業界標準の署名であるC2PAメタデータが埋め込まれることで、その出所が認証されます。さらに、以前のバージョンで成功を収めたシステムや関連する画像生成技術を基に、コンテンツの出所を正確に追跡するための画像および音声の逆検索ツールを独自に開発しました。

Soraは、特に個人の肖像の使用に関して、ユーザーの同意を重視しています。ユーザーはカメオ機能を通じて自分の画像と音声を完全に制御でき、使用許可を自由に付与または取り消すことができます。また、このプラットフォームは著名人の無許可の描写を防ぎ、ユーザーがカメオ出演した動画を監視および管理する機能も提供します。カメオ出演した動画には追加の安全対策が適用され、ユーザーは衣装の好みを指定するなど、カメオ出演の提示方法をカスタマイズできます。

Sora 2では、若い世代向けに、年齢相応のコンテンツ制限や、成人との不適切なやり取りを防ぐプライバシー対策など、強化された保護機能を導入しています。アプリには、10代のユーザー向けのダイレクトメッセージやコンテンツフィードを制限できるペアレンタルコントロール機能も搭載されています。さらに、プラットフォームは10代のユーザーがスクロールできるコンテンツの量を制限し、より安全で管理された環境を提供します。

プラットフォームは、自動システムと人間によるレビューを活用した多層防御システムで有害コンテンツをフィルタリングし、グローバル利用ポリシーを適用しています。これらの防御システムは、プロンプトや出力を精査することで、性的コンテンツや暴力的なプロパガンダなどの危険なコンテンツの作成を事前にブロックするように設計されています。Sora 2は、新たなリスクに対応するためにシステムを継続的に更新し、常に警戒を怠りません。音声コンテンツも保護されており、音声トランスクリプトを自動スキャンしてポリシー違反を検出し、存命アーティストや既存作品の権利を侵害する音楽の作成を禁止しています。ユーザーはコンテンツに対するコントロールを維持でき、不正行為の報告、アカウントのブロック、公開動画の削除などを行うことで、安全で応答性の高いコミュニティ体験を実現します。