Feedzai telah merilis laporan yang menyoroti meningkatnya penggunaan Generative AI dalam penipuan finansial, dengan AI terlibat dalam lebih dari setengah dari semua aktivitas penipuan. Menurut laporan tersebut, penjahat menyalahgunakan AI untuk membuat deepfake canggih dan identitas sintetis, sehingga menimbulkan tantangan besar bagi lembaga keuangan. Sebagai tanggapan, 90% bank menggunakan AI untuk mendeteksi dan mencegah penipuan, dengan dua pertiga dari mereka telah menerapkan teknologi ini dalam dua tahun terakhir untuk melindungi konsumen dan memerangi ancaman yang semakin meningkat.

Lembaga keuangan menghadapi tantangan signifikan dalam mengadopsi AI untuk pencegahan penipuan, terutama dalam menjaga praktik yang etis dan transparan. Tidak seperti penjahat yang menyalahgunakan AI tanpa pertimbangan etis, bank harus mematuhi kerangka regulasi yang ketat. Laporan tersebut juga mengungkapkan bahwa 92% lembaga keuangan menyadari penggunaan Generative AI oleh penipu, seperti deepfake dan rekayasa sosial. Teknik berbasis AI ini menyebabkan pengambilalihan akun dan aktivitas penipuan yang sering kali sulit dideteksi dan sering kali dikompensasi sebagai penipuan.

Manajemen data dan pertimbangan etika merupakan tantangan terbesar bagi bank yang memanfaatkan AI untuk pencegahan penipuan. Menurut Feedzai, 87% bank kesulitan mengelola data, dan 89% menyoroti perlunya sistem AI yang dapat dijelaskan dan transparan. Feedzai mengembangkan TRUST Framework untuk membantu lembaga membangun sistem AI yang adil, aman, dan akuntabel. Feedzai Bizarro, salah satu pendiri dan kepala staf ilmiah di Feedzai , menekankan pentingnya merancang AI dengan mempertimbangkan kepercayaan untuk mencegah potensi masalah bagi pengguna:

Bank semakin banyak menggunakan AI untuk memperkuat dan meningkatkan efisiensi pencegahan penipuan mereka Feedzai , AI telah memberikan kontribusi signifikan untuk mempercepat investigasi penipuan dan mengidentifikasi metode penipuan baru secara real time. AI dipandang sebagai pelengkap daripada menggantikan peran manusia, dengan 43% profesional keuangan melaporkan peningkatan efisiensi dalam tim penipuan mereka. Seiring berkembangnya AI, lembaga keuangan berharap untuk mengadopsi solusi yang lebih canggih untuk tetap unggul dalam menghadapi ancaman baru, memastikan keseimbangan antara inovasi teknologi dan penggunaan yang bertanggung jawab.