NRI Secure (Tokyo) telah meluncurkan layanan baru bernama "Deep AI Red Team" untuk menilai risiko keamanan dalam sistem agen AI. Layanan ini menggunakan alat miliknya sendiri, "ai-guard," untuk memvisualisasikan keadaan internal agen AI dan mengungkap ancaman yang sulit dideteksi menggunakan metode tradisional.

Menurut perusahaan, agen AI menunjukkan karakteristik seperti perilaku nondeterministik dan eksekusi berantai otonom, yang menciptakan risiko keamanan baru. Perusahaan telah menganalisis bahwa sekitar 70% dari 15 ancaman yang didefinisikan oleh OWASP sulit dideteksi menggunakan metode tradisional.

"Deep AI Red Team" menggunakan pendekatan hibrida yang menggabungkan pengetahuan ahli dengan teknologi AI. Hal ini memungkinkan analisis real-time dari proses inferensi agen AI dan perubahan dalam keadaan memori, sehingga memungkinkan deteksi ancaman tingkat lanjut.

NRI Secure juga sedang mengembangkan "Deep AI Blue Team," yang ditargetkan untuk diluncurkan pada tahun 2026, dan saat ini sedang merekrut perusahaan untuk PoC (Proof of Concept). Layanan ini bertujuan untuk membangun siklus operasi keamanan yang menghubungkan diagnosis, pemantauan, dan peningkatan. NRI Secure bermaksud untuk terus berkontribusi pada terwujudnya lingkungan sistem informasi yang aman melalui dukungan terhadap langkah-langkah keamanan informasi.