Microsoft melaporkan peningkatan kampanye siber yang menyalahgunakan merek platform AI populer, termasuk ChatGPT, Claude, dan DeepSeek, untuk menipu pengguna agar mengungkapkan informasi sensitif atau menginstal malware. Aktivitas tersebut digambarkan sebagai penyalahgunaan nama AI tepercaya, bukan sebagai peretasan layanan itu sendiri.

Salah satu kampanye yang menyamar sebagai ChatGPT menggunakan pesan perpanjangan langganan untuk menekan penerima agar memperbarui detail pembayaran. Para korban diarahkan melalui beberapa layanan web yang sah sebelum mencapai halaman phishing yang dirancang untuk mengumpulkan informasi pribadi dan kartu kredit.

Operasi lain memanfaatkan email bertema Claude yang mengklaim pelanggaran kebijakan akun. Penerima diarahkan melalui lampiran PDF dan halaman verifikasi yang pada akhirnya mengarah ke infrastruktur pengumpulan kredensial yang sesuai dengan teknik penyerang di tengah (adversary-in-the-middle) yang bertujuan untuk menangkap token otentikasi.

Para peneliti juga mengidentifikasi kampanye distribusi malware menggunakan alat AI palsu dan penginstal DeepSeek palsu yang dihosting di GitHub. Unduhan tersebut mengirimkan malware pencuri informasi seperti Vidar Stealer. Microsoft menyarankan organisasi untuk memperkuat otentikasi multifaktor, mengaktifkan perlindungan phishing tingkat lanjut, dan memverifikasi sumber perangkat lunak sebelum instalasi.