Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

Darktrace (Cambridge, Anh) vừa công bố sản phẩm mới, Darktrace / SECURE AI™, giúp các doanh nghiệp triển khai AI một cách an toàn. Sản phẩm này hiểu được hành vi, mục đích và rủi ro của các tác nhân AI, cung cấp khả năng hiển thị và kiểm soát theo thời gian thực trong toàn bộ vòng đời của AI. Nó cũng bảo vệ chống lại việc sử dụng AI bóng tối, các tác nhân AI được phát triển trong các ứng dụng SaaS và môi trường điện toán đám mây quy mô lớn.

Darktrace / SECURE AI, sử dụng công nghệ trí tuệ nhân tạo hành vi của công ty, có thể phát hiện và can thiệp vào các hành vi bất thường và vi phạm chính sách trong hệ thống AI. Khi các công ty bắt đầu triển khai AI một cách toàn diện, nó giải quyết các vấn đề mà các biện pháp kiểm soát an ninh truyền thống không thể giải quyết. Nó phân tích các tương tác của AI, ngôn ngữ nhắc nhở và các mẫu truy cập dữ liệu để phát hiện rủi ro.

Giám đốc an ninh thông tin (CISO) Darktrace, Mike Beck, cho biết: "Các hệ thống AI có thể hoạt động khó lường. Chúng tôi áp dụng phương pháp dựa trên hành vi, cho phép các nhóm an ninh xem được AI thực sự đang làm gì", trong khi Giám đốc công nghệ (CTO) Jack Stockdale nhấn mạnh: "An ninh là một vấn đề về hành vi. Điều quan trọng là phải giám sát và hiểu các tín hiệu của AI trong quá trình hoạt động."

Khi các tổ chức sử dụng các công cụ AI trên quy mô lớn, Darktrace cung cấp giải pháp sử dụng và quản lý AI an toàn thông qua "Darktrace / SECURE AI". Giải pháp này cung cấp chức năng theo dõi quyền truy cập của tác nhân AI, đánh giá rủi ro và quản lý AI ngầm. Theo một cuộc khảo sát của công ty, hơn ba phần tư chuyên gia an ninh mạng lo ngại về những tác động an ninh của việc sử dụng rộng rãi các tác nhân AI và các công cụ Generative AI của bên thứ ba.