Google(California) telah merilis informasi tentang tren terbaru dalam penggunaan AI berbahaya. Menurut Sandra Joyce, Wakil Presiden Intelijen Ancaman Google, aktor ancaman dan penjahat siber yang disponsori pemerintah telah menggunakan AI untuk menguji dan menyebarkan malware baru.

Menurut postingan di blog resmi Google Cloud, pelaku ancaman telah melampaui penggunaan AI untuk meningkatkan produktivitas dan sekarang menggunakan malware berkemampuan AI yang disebut PROMPTSTEAL, yang menggunakan model bahasa skala besar untuk menerima perintah sambil memodifikasi dirinya sendiri untuk menghindari deteksi.

Google mengambil langkah proaktif untuk memerangi penyalahgunaan AI, menonaktifkan proyek dan akun terkait, dan GTIG telah merilis laporan tentang penyalahgunaan alat AI, yang mengungkap bagaimana pelaku ancaman mengintegrasikan AI di seluruh siklus hidup serangan.

Selain itu, Google memantau perkembangan pasar kejahatan dunia maya untuk peralatan AI, dan mencatat adanya peningkatan dalam penawaran peralatan AI terlarang, yang diyakininya dapat menurunkan hambatan masuk bagi aktor ancaman yang kurang canggih secara teknis.

Google berkomitmen untuk membangun AI yang bertanggung jawab dan memperkuat perlindungan terhadap penyalahgunaan. Perusahaan ini memberikan pembelajaran untuk pengembangan produk guna meningkatkan keselamatan dan keamanan AI, serta membagikan temuan riset untuk memungkinkan perlindungan di seluruh ekosistem. Detail selengkapnya dapat ditemukan dalam laporan GTIG AI Threat Tracker.