Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

Microsoft đã phát hành phiên bản 2.0 của hệ thống phân loại lỗi AI tác nhân, mở rộng khung phân loại với bảy danh mục mới dựa trên những phát hiện từ một năm đánh giá hoạt động của nhóm tấn công giả lập (red team).

Bản cập nhật này giải quyết các rủi ro mới nổi bao gồm sự xâm phạm chuỗi cung ứng tác nhân, chiếm đoạt mục tiêu, leo thang lòng tin giữa các tác nhân, tấn công hình ảnh tác nhân sử dụng máy tính, ô nhiễm ngữ cảnh phiên, lạm dụng plugin và tiết lộ khả năng.

Kiểm tra bảo mật trên các môi trường tác nhân đã triển khai cho thấy việc khai thác thường xuyên các lỗ hổng bỏ qua sự can thiệp của con người, kỹ thuật tiêm thông tin nhanh, làm nhiễm độc bộ nhớ và các cuộc tấn công đa giai đoạn tích lũy ảnh hưởng trong các phiên kéo dài.

Hướng dẫn sửa đổi khuyến nghị kiểm soát chuỗi cung ứng mạnh mẽ hơn, xác minh danh tính bằng mật mã giữa các tác nhân, quy trình phê duyệt được cải tiến và phạm vi kiểm tra bảo mật rộng hơn khi các tổ chức mở rộng triển khai hệ thống AI tự động.