Laporan baru dari Capgemini Research Institute mengungkapkan bahwa meskipun kecerdasan buatan (AI) dan AI generatif (Gen AI) menimbulkan risiko keamanan siber baru, keduanya juga penting untuk memperkuat strategi pertahanan siber. Studi ini mengungkapkan bahwa dua pertiga organisasi mengintegrasikan AI ke dalam operasi keamanan mereka, meskipun menyadari potensi peningkatan kecanggihan serangan siber dan peningkatan kerentanan.

Survei tersebut menyoroti bahwa hampir semua organisasi yang menggunakan Gen AI telah menghadapi pelanggaran keamanan dalam setahun terakhir. Kekhawatiran tersebut mencakup pembuatan konten yang bias atau berbahaya, dan risiko kebocoran data sensitif melalui kumpulan data pelatihan. Dampak finansial juga dilaporkan, dengan lebih dari 40% organisasi mengalami kerugian karena deepfake. Akibatnya, banyak yang percaya bahwa anggaran keamanan siber perlu ditingkatkan untuk memerangi ancaman ini secara efektif.

Berbagai organisasi memanfaatkan AI untuk meningkatkan keamanan data, aplikasi, dan cloud, dengan sebagian besar melaporkan pengurangan signifikan dalam waktu yang dibutuhkan untuk mendeteksi dan memulihkan insiden cyber. 61% dari mereka yang disurvei meyakini AI sangat penting untuk menanggapi ancaman secara efektif, dan lebih dari separuhnya mengharapkan Gen AI dapat meningkatkan pertahanan proaktif, mempercepat deteksi ancaman, dan membebaskan analis untuk fokus pada tanggapan strategis terhadap ancaman yang kompleks.

Marco Pereira, Kepala Keamanan Siber Global di Capgemini, menekankan bahwa continuous monitoring, infrastruktur manajemen data yang kuat, dan pelatihan karyawan adalah kunci untuk memaksimalkan manfaat AI dan Gen AI dalam keamanan siber. Laporan ini didasarkan pada survei terhadap 1.000 organisasi dengan pendapatan tahunan lebih dari $1 miliar di berbagai sektor dan geografi.