Inovasi terbaru dalam keamanan AI hadir dengan diperkenalkannya ShieldGemma 2, model baru yang dirancang untuk meningkatkan keamanan gambar sintetis dan alami. Model yang berjalan pada platform Gemma 3 ini memiliki kapasitas 4 miliar parameter dan bertujuan untuk membantu para peneliti dan pengembang membuat kumpulan data dan model yang lebih aman. ShieldGemma 2 unggul dalam mengidentifikasi dan meminimalkan risiko yang terkait dengan konten berbahaya, dengan fokus pada area seperti materi seksual eksplisit, konten berbahaya, dan kekerasan.

ShieldGemma 2 memperluas kemampuan pendahulunya dengan mengatasi kompleksitas keamanan gambar dalam model multimoda, bukan hanya teks. Tim pengembangan dengan cermat menyusun kumpulan data pelatihan dan menyempurnakan Gemma 3 untuk memastikan kinerja yang kuat terhadap berbagai tolok ukur keamanan. Laporan teknis yang akan datang akan memberikan wawasan lebih lanjut, termasuk perbandingan dengan tolok ukur pihak ketiga.

Model ini fleksibel, memungkinkan pengguna untuk mengunggah gambar apa pun dan menyesuaikan templat perintah dengan kebutuhan spesifik mereka. ShieldGemma 2 kompatibel dengan berbagai kerangka kerja populer dan mendorong kolaborasi komunitas untuk memperkuat standar keselamatan industri. Tim di balik ShieldGemma 2 berkomitmen untuk mengeksplorasi kemajuan lebih lanjut, termasuk mengurangi ukuran model, mencakup domain bahaya tambahan, dan mematuhi taksonomi ML Commons multimodal. Komitmen terhadap pengembangan AI yang bertanggung jawab ini menunjukkan upaya bersama kami untuk mendorong lingkungan digital yang lebih aman.