Sebuah laporan baru dari Capgemini Research Institute mengungkapkan bahwa meskipun kecerdasan buatan (AI) dan AI generatif (Gen AI) menimbulkan risiko keamanan siber baru, keduanya juga penting untuk memperkuat strategi pertahanan siber. Survei tersebut mengungkapkan bahwa dua pertiga organisasi mengintegrasikan AI ke dalam operasi keamanan mereka, meskipun mereka menyadari potensi peningkatan kecanggihan dan kerentanan dalam serangan siber.

Studi ini menyoroti bahwa hampir setiap organisasi yang menggunakan Gen AI menghadapi pelanggaran keamanan dalam satu tahun terakhir. Kekhawatirannya mencakup pembuatan konten yang bias atau berbahaya dan risiko kebocoran data sensitif melalui kumpulan data pelatihan. Konsekuensi finansial juga dilaporkan, dengan lebih dari 40% organisasi mengalami kerugian akibat deepfake. Oleh karena itu, banyak pihak yang percaya bahwa anggaran keamanan siber perlu ditingkatkan untuk memerangi ancaman-ancaman ini secara efektif.

Banyak organisasi memanfaatkan AI untuk meningkatkan keamanan data, aplikasi, dan cloud mereka, dan sebagian besar organisasi melaporkan adanya pengurangan signifikan dalam waktu yang diperlukan untuk mendeteksi dan memulihkan insiden siber. 61% dari mereka yang disurvei percaya bahwa AI penting untuk merespons ancaman secara efektif. Lebih dari setengahnya juga mengharapkan Gen AI untuk meningkatkan pertahanan proaktif, mempercepat deteksi ancaman, dan memungkinkan analis untuk fokus pada respons strategis terhadap ancaman yang kompleks.

Marco Pereira, Global Head of Cybersecurity di Capgemini, mengatakan pemantauan berkelanjutan, infrastruktur manajemen data yang kuat, dan pelatihan karyawan adalah kunci untuk memaksimalkan manfaat AI dan Gen AI dalam keamanan siber. Laporan ini didasarkan pada survei terhadap 1.000 organisasi dengan pendapatan tahunan melebihi $1 miliar di berbagai sektor dan geografi.