Check Point dan Lakera, bekerja sama dengan UK AI Security Research Institute, telah mengembangkan "b3", sebuah alat penilaian keamanan untuk agen AI. Alat ini mengidentifikasi kerentanan dalam model AI berdasarkan "threat snapshots".

Untuk menilai keamanan model AI, "b3" menggabungkan 19.433 set data serangan dengan 10 jenis "snapshot ancaman". Hal ini memungkinkan verifikasi ketahanan model dalam berbagai skenario serangan.

Mateo Rojas-Carulla dari Lakera menjelaskan tujuan pengembangan benchmark b3, dengan mengatakan bahwa tujuannya adalah untuk meningkatkan keamanan agen AI melalui "snapshot ancaman". b3 tersedia sebagai sumber terbuka.

Lakera juga telah mengembangkan alat latihan tim merah gamifikasi bernama Gandalf: Agent Breaker. Ini adalah permainan peretasan yang mensimulasikan serangan terhadap agen AI, mereplikasi perilaku aplikasi AI di dunia nyata.