CPR, divisi intelijen ancaman Check Point (Israel), telah menemukan bahwa model AI "DeepSeek" dan "Qwen" disalahgunakan. CPR melaporkan bahwa penjahat dunia maya beralih dari ChatGPT ke model AI baru ini dan menggunakannya untuk mengembangkan konten berbahaya.

Pelaku ancaman berbagi teknik "jailbreak" untuk memanipulasi model AI dan menghasilkan konten tanpa sensor. Hal ini memudahkan peretas dan penjahat untuk menyalahgunakan AI. Panduan terperinci beredar, menjelaskan cara mengembangkan malware, dll.

CPR telah merinci bagaimana penjahat dunia maya menyalahgunakan model AI untuk membuat konten yang berbahaya. CPR memperingatkan bahwa kewaspadaan diperlukan terhadap ancaman yang terus berkembang.

DeepSeek dan Qwen dapat menjadi alat yang dapat membuat konten berbahaya tanpa batasan. Sementara ChatGPT telah memperkuat langkah-langkah pencegahan penyalahgunaannya, model AI baru tersebut tidak memiliki kemampuan pencegahan penyalahgunaan yang memadai. Hal ini telah menyebabkan lonjakan penggunaan oleh para penyerang.