Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

Check Point và Lakera, hợp tác với Viện Nghiên cứu An ninh AI Vương quốc Anh, đã phát triển "b3", một công cụ đánh giá bảo mật dành cho các tác nhân AI. Công cụ này xác định các lỗ hổng trong các mô hình AI dựa trên "ảnh chụp nhanh mối đe dọa".

Để đánh giá tính bảo mật của các mô hình AI, "b3" kết hợp 19.433 tập dữ liệu tấn công với 10 loại "ảnh chụp nhanh mối đe dọa". Điều này cho phép xác minh khả năng phục hồi của mô hình trong nhiều tình huống tấn công khác nhau.

Mateo Rojas-Carulla của Lakera đã giải thích mục đích phát triển chuẩn mực b3 rằng mục tiêu là cải thiện tính bảo mật của các tác nhân AI thông qua "ảnh chụp nhanh mối đe dọa". b3 có sẵn dưới dạng mã nguồn mở.

Lakera cũng đã phát triển một công cụ luyện tập nhóm đỏ mang tính trò chơi hóa mang tên Gandalf: Agent Breaker. Đây là một trò chơi hack mô phỏng các cuộc tấn công vào các tác nhân AI, mô phỏng hành vi của các ứng dụng AI trong thế giới thực.