Alat AI generatif menjadi bagian integral dari teknologi sehari-hari, termasuk membantu pekerjaan dan upaya kreatif. Namun, popularitasnya yang semakin meningkat juga membawa risiko penyalahgunaan, seperti penyebaran informasi yang salah dan phishing. Untuk mengatasi masalah ini, perangkat digital baru, SynthID, diperkenalkan tahun lalu untuk memberi tanda air pada konten buatan AI dan memungkinkan pengguna membedakan antara konten buatan AI dan konten buatan manusia.

Toolkit ini sekarang memiliki kemampuan untuk memberi tanda air pada teks yang dihasilkan AI di aplikasi Gemini dan pengalaman web, serta video di Veo, model video generatif yang canggih. SynthID untuk Teks disesuaikan untuk bekerja dengan model pembuatan teks AI umum dan dapat diskalakan. Sebaliknya, watermarking video memperluas metode untuk mencakup setiap frame video. Pendekatan inovatif ini menyematkan tanda air dengan cara yang tidak terdeteksi, sehingga menjaga integritas dan kualitas konten yang dihasilkan.

Meskipun SynthID bukanlah solusi utama untuk mengidentifikasi konten yang dihasilkan AI, ini merupakan langkah penting menuju pengembangan alat identifikasi yang lebih andal. Alat ini bertujuan untuk membantu jutaan orang membuat keputusan yang tepat ketika bekerja dengan konten yang dihasilkan AI. Ada rencana untuk membuat komponen watermark teks SynthID menjadi open source pada akhir tahun ini, sehingga memungkinkan pengembang untuk mengintegrasikan teknologi tersebut ke dalam model mereka sendiri.

Penandaan air teks menyematkan tanda air halus selama fase pembuatan teks dengan menyesuaikan kemungkinan penggunaan token tertentu. Hal ini tidak mempengaruhi kualitas atau kreativitas keluarannya. Tanda air adalah pola skor unik yang dapat digunakan untuk memverifikasi asal teks. Meskipun efektif dalam banyak skenario, cara ini memiliki keterbatasan seperti tidak dapat diandalkan jika teksnya ditulis ulang atau diterjemahkan secara signifikan.

Tanda air teks SynthID kurang efektif untuk perintah faktual yang mengutamakan akurasi. Tidak seperti pengklasifikasi, yang sulit untuk tetap konsisten di berbagai platform, SynthID dapat digunakan sendiri atau dikombinasikan dengan metode deteksi lain untuk pendekatan yang lebih komprehensif. Meskipun tidak dirancang untuk menggagalkan penyerang dunia maya yang penuh dendam, hal ini dapat mempersulit penggunaan konten buatan AI untuk tujuan berbahaya.

Untuk video, teknologi watermarking yang terinspirasi dari alat gambar menyematkan watermark di setiap frame video. Watermark ini tidak terlihat dengan mata telanjang, namun dapat dideteksi untuk tujuan identifikasi. Hal ini penting seiring berkembangnya teknologi pembuatan video dan kebutuhan untuk mengidentifikasi video yang dihasilkan AI semakin meningkat. Mulai hari ini, video yang dihasilkan Veo di VideoFX akan memiliki tanda air SynthID yang tertanam.

Di masa depan, teknologi watermarking teks SynthID akan menjadi bagian dari ekosistem AI yang lebih luas. Makalah penelitian terperinci telah diterbitkan dan teknologinya akan dijadikan sumber terbuka melalui Responsible Generative AI Toolkit yang diperbarui. Langkah ini akan memungkinkan pengembang untuk membuat aplikasi AI yang lebih aman dengan memasukkan SynthID ke dalam model mereka, sehingga berkontribusi terhadap penggunaan konten yang dihasilkan AI secara bertanggung jawab. saus: