Google telah membuat blog tentang meningkatkan keamanan beban kerja AI yang dihasilkan dengan melindungi data sensitif. Sebuah survei baru-baru ini menemukan bahwa kebocoran data dan privasi menjadi dua dari tiga kekhawatiran utama terkait keamanan AI. Hal ini sangat relevan dalam konteks injeksi cepat, sebuah risiko yang terkait dengan kebocoran data yang telah diidentifikasi sebagai salah satu dari 10 risiko teratas pada aplikasi mendasar. Oleh karena itu, penting untuk melindungi data pelatihan dan data respons yang mendasarinya ketika mengembangkan aplikasi AI generatif yang kuat. Pendekatan yang berpusat pada data untuk mengamankan aplikasi Gen AI menggunakan perlindungan data sensitif sedang dipertimbangkan. Ini mencakup Notebook Jupyter dengan contoh kerja. Seperti beban kerja AI/ML lainnya, AI generatif memerlukan data yang disesuaikan atau ditambah agar sesuai dengan kebutuhan bisnis tertentu. Namun, organisasi sering kali kesulitan memitigasi risiko penyesuaian dan pelatihan model menggunakan data mereka sendiri, yang mungkin berisi elemen sensitif seperti informasi pribadi. Mengidentifikasi dan menghapus elemen sensitif dari data pribadi bisa jadi sulit. Selain itu, strategi pengeditan dapat memengaruhi properti statistik kumpulan data atau menyebabkan generalisasi statistik yang tidak akurat. Untuk mengatasi tantangan ini, layanan perlindungan data sensitif, termasuk API pencegahan kehilangan data (DLP) cloud, menawarkan beragam opsi deteksi dan transformasi. Perlindungan Data Sensitif memungkinkan Anda menambahkan lapisan perlindungan data tambahan di seluruh siklus hidup model AI generatif Anda, mulai dari pelatihan, penyetelan, hingga inferensi. Penerapan awal teknik perlindungan ini dapat membuat beban kerja model lebih aman dan patuh, sehingga mengurangi risiko pemborosan biaya yang memerlukan pelatihan ulang dan kalibrasi ulang di kemudian hari. Layanan tersebut menyatakan bahwa layanan ini mencakup lebih dari 150 infoType bawaan yang membantu dengan cepat mengidentifikasi elemen data sensitif seperti nama, pengenal pribadi, data keuangan, konteks medis, dan data demografi.