Darktrace (Cambridge, Inggris) telah mengumumkan produk baru, Darktrace / SECURE AI™, yang membantu perusahaan menerapkan AI secara aman. Produk ini memahami perilaku, tujuan, dan risiko agen AI, memberikan visibilitas dan kontrol secara real-time di seluruh siklus hidup AI. Produk ini juga melindungi dari penggunaan AI bayangan, yaitu agen AI yang dikembangkan dalam aplikasi SaaS dan lingkungan hyperscaler.

Darktrace / SECURE AI, yang memanfaatkan teknologi AI perilaku perusahaan, dapat mendeteksi dan melakukan intervensi terhadap perilaku anomali dan pelanggaran kebijakan dalam sistem AI. Seiring perusahaan mulai sepenuhnya menerapkan AI, teknologi ini mengatasi masalah yang tidak dapat ditangani oleh kontrol keamanan tradisional. Teknologi ini menganalisis interaksi AI, bahasa perintah, dan pola akses data untuk mendeteksi risiko.

CISO Darktrace , Mike Beck, mengatakan, "Sistem AI dapat berperilaku tidak terduga. Kami menerapkan pendekatan berbasis perilaku, yang memungkinkan tim keamanan untuk melihat apa yang sebenarnya dilakukan AI," sementara CTO Jack Stockdale menekankan, "Keamanan adalah masalah perilaku. Penting untuk memantau dan memahami perintah AI saat dijalankan."

Seiring dengan penggunaan alat AI dalam skala besar oleh berbagai organisasi, Darktrace menawarkan solusi untuk penggunaan dan pengelolaan AI yang aman melalui "Darktrace / SECURE AI." Solusi ini menyediakan fungsionalitas untuk melacak izin akses agen AI, menilai risiko, dan mengelola AI bayangan. Menurut survei yang dilakukan perusahaan, lebih dari tiga perempat profesional keamanan siber khawatir tentang implikasi keamanan dari penggunaan agen AI dan alat Generative AI pihak ketiga yang meluas.