Assured (Shibuya-ku, Tokyo) telah merilis hasil survei berdasarkan data evaluasi keamanan untuk perusahaan yang semakin banyak menggunakan AI. Jumlah layanan AI terdaftar telah meningkat 4,8 kali lipat selama tiga tahun terakhir, dan 11,4% layanan yang terdaftar di Assured berbasis AI. Hal ini menunjukkan meningkatnya kesadaran akan risiko keamanan layanan AI dan perlunya manajemen serta evaluasi yang tepat.

Namun, survei tersebut juga menemukan bahwa 42,8% layanan non-AI merupakan layanan "AI tersembunyi" yang menggunakan AI, seperti ChatGPT. Pengguna harus memverifikasi langkah-langkah keamanan khusus AI dalam layanan ini. Assured telah mengidentifikasi dan menerbitkan item keamanan yang sangat penting.

Hanya sekitar setengah dari layanan AI yang memiliki ketentuan penggunaan yang jelas atau aturan yang ditetapkan untuk pengumpulan dan penggunaan data pelatihan. Perusahaan perlu berhati-hati jika tidak melakukannya, karena ada risiko data tersebut dapat digunakan sebagai data pelatihan di masa mendatang. Lebih lanjut, 22% layanan yang menggunakan data tepercaya untuk pelatihan tidak memiliki aturan yang ditetapkan, sehingga menimbulkan kekhawatiran tentang risiko kebocoran informasi rahasia.

Kontrol kualitas dan pencegahan serangan merupakan langkah-langkah keamanan penting untuk layanan AI, tetapi survei menemukan bahwa langkah-langkah ini tidak diterapkan di sekitar 40% layanan. Evaluasi yang tidak memadai terhadap hasil keluaran AI, pemantauan bias, dan tindakan pencegahan terhadap metode serangan dapat menyebabkan masalah informasi yang tidak akurat dan kerentanan keamanan. Assured menyatakan akan terus menyediakan penilaian keamanan yang objektif agar perusahaan dapat menggunakan layanan cloud dengan tenang.