Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

Pillar Security, nhà cải tiến các giải pháp bảo mật AI, đã xuất bản một báo cáo toàn diện nêu chi tiết các cuộc tấn công mạng trong thế giới thực nhằm vào các ứng dụng AI. Nghiên cứu này, khác với các đánh giá lý thuyết trước đây, dựa trên phân tích của hơn 2.000 ứng dụng AI và nhận thấy rằng hành vi trộm cắp dữ liệu có tỷ lệ thành công cao, với 90% các vụ xâm nhập thành công dẫn đến dữ liệu nhạy cảm bị xâm phạm. Báo cáo cũng lưu ý rằng các cuộc tấn công vượt qua biện pháp bảo vệ ứng dụng AI có tỷ lệ thành công 20%.

Nghiên cứu của công ty có trụ sở tại Tel Aviv tiết lộ thêm về bản chất nhanh nhẹn của các cuộc tấn công mạng này, với những kẻ tấn công thực hiện các cuộc tấn công của chúng chỉ trong trung bình 42 giây và với sự tương tác tối thiểu với các hệ thống AI. Điều này thường xảy ra. Các phát hiện cho thấy các lỗ hổng tồn tại ở mọi giai đoạn tương tác với hệ thống GenAI, nêu bật nhu cầu cấp thiết về các biện pháp bảo mật mạnh mẽ. Báo cáo cũng lưu ý rằng các cuộc tấn công tiêm nhiễm ngay lập tức đang trở nên thường xuyên và tinh vi hơn.

Dor Sarig, Giám đốc điều hành của Pillar Security, nhấn mạnh tầm quan trọng của báo cáo này trong việc cung cấp cho các tổ chức những hiểu biết sâu sắc có thể hành động để nâng cao chiến lược bảo mật AI của họ. Nghiên cứu này khám phá các kỹ thuật bẻ khóa phổ biến nhất, chẳng hạn như ghi đè lệnh và mã hóa Base64, đồng thời xác định động cơ chính đằng sau các cuộc tấn công, chẳng hạn như đánh cắp dữ liệu và tạo thông tin sai lệch.

Trong tương lai, Pillar Security dự đoán sẽ có sự thay đổi từ chatbot sang các tác nhân AI tự chủ hơn. Mặc dù điều này dân chủ hóa quyền truy cập AI nhưng nó cũng tạo ra những thách thức bảo mật mới. Công ty ủng hộ cách tiếp cận chủ động đối với bảo mật AI, khuyến khích các tổ chức áp dụng nguyên tắc "bảo mật theo thiết kế" và tham gia vào các bài tập tùy chỉnh của đội đỏ để giải quyết mức độ phức tạp ngày càng tăng của các cuộc tấn công nhắm vào AI. Chúng tôi khuyên bạn nên chuẩn bị sẵn sàng. Phát hiện của Pillar nhấn mạnh sự cần thiết của các giải pháp bảo mật năng động có thể thích ứng và chống lại các mối đe dọa ngày càng gia tăng trong thời gian thực.