Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

NRI Secure (Tokyo) đã ra mắt dịch vụ mới có tên "Deep AI Red Team" để đánh giá rủi ro bảo mật trong các hệ thống tác nhân AI. Dịch vụ này sử dụng công cụ độc quyền "ai-guard" để trực quan hóa trạng thái bên trong của các tác nhân AI và phát hiện các mối đe dọa khó phát hiện bằng các phương pháp truyền thống.

Theo công ty, các tác nhân AI thể hiện các đặc điểm như hành vi không xác định và thực thi tự động theo chuỗi, tạo ra các rủi ro bảo mật mới. Họ đã phân tích rằng khoảng 70% trong số 15 mối đe dọa được OWASP định nghĩa rất khó phát hiện bằng các phương pháp truyền thống.

"Deep AI Red Team" sử dụng phương pháp lai kết hợp kiến thức chuyên môn với công nghệ AI. Điều này cho phép phân tích thời gian thực các quy trình suy luận của tác nhân AI và các thay đổi trong trạng thái bộ nhớ, cho phép phát hiện mối đe dọa nâng cao.

NRI Secure cũng đang phát triển "Deep AI Blue Team", dự kiến ra mắt vào năm 2026, và hiện đang tuyển dụng các công ty tham gia dự án thử nghiệm (PoC). Dịch vụ này nhằm mục đích xây dựng một chu trình hoạt động bảo mật kết nối chẩn đoán, giám sát và cải tiến. NRI Secure dự định tiếp tục đóng góp vào việc hiện thực hóa một môi trường hệ thống thông tin an toàn thông qua việc hỗ trợ các biện pháp bảo mật thông tin.