Generatived（Beta）｜生成AIの最新ニュースとトレンドを提供

AI の安全性に関する最新のイノベーションは、合成画像と自然画像の両方のセキュリティを強化するように設計された新しいモデルである ShieldGemma 2 の導入によって実現しました。Gemma 3 プラットフォームで動作するこのモデルは、40 億のパラメータ容量を誇り、研究者や開発者がより安全なデータセットとモデルを作成できるように支援することを目的としています。ShieldGemma 2 は、性的に露骨な素材、危険なコンテンツ、暴力などの領域に焦点を当て、有害なコンテンツに関連するリスクを特定して最小限に抑えることに長けています。

ShieldGemma 2 は、テキストだけでなく、マルチモーダル モデルにおける画像の安全性の複雑さにも取り組むことで、前身の機能を拡張しています。開発チームは、トレーニング データセットを綿密にキュレートし、Gemma 3 を微調整して、さまざまな安全性ベンチマークに対して堅牢なパフォーマンスを確保しました。今後発表される技術レポートでは、サードパーティのベンチマークとの比較など、さらなる洞察が提供される予定です。

このモデルは柔軟性があり、ユーザーは任意の画像をアップロードして、プロンプト テンプレートを特定の要件に合わせてカスタマイズできます。 ShieldGemma 2 は、さまざまな一般的なフレームワークと互換性があり、業界の安全基準を強化するためのコミュニティのコラボレーションを促進します。ShieldGemma 2 の背後にあるチームは、モデル サイズの縮小、追加の危害領域のカバー、マルチモーダル ML Commons 分類法への準拠など、さらなる進歩を模索することに尽力しています。責任ある AI 開発へのこの取り組みは、より安全なデジタル環境を育むための共同の取り組みを示しています。