Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

Microsoft đã công bố hướng dẫn bảo mật mô tả một mô hình tấn công ngày càng gia tăng nhắm vào các tác nhân AI thông qua các công cụ Giao thức Ngữ cảnh Mô hình (MCP) bị xâm phạm. Báo cáo tập trung vào rủi ro chuỗi cung ứng khi các tác nhân AI doanh nghiệp ngày càng thực hiện các hành động thay vì chỉ tạo ra phản hồi.

Theo Microsoft, kẻ tấn công có thể sửa đổi mô tả công cụ MCP bằng các hướng dẫn ẩn ảnh hưởng đến quá trình ra quyết định của tác nhân. Trong một kịch bản tài chính được chứng minh, một tác nhân AI đã vô tình thu thập dữ liệu hóa đơn nhạy cảm và truyền nó đến một dịch vụ bên ngoài trong khi dường như đang hoàn thành một nhiệm vụ xác thực hợp pháp.

Công ty nhấn mạnh rằng cuộc tấn công khai thác mối quan hệ tin cậy giữa các tác nhân AI và các công cụ bên ngoài chứ không phải các lỗ hổng trong chính tác nhân. Bởi vì mỗi hành động riêng lẻ dường như được ủy quyền, hoạt động độc hại có thể không bị phát hiện nếu không có sự giám sát và quản trị chuyên dụng.

Microsoft khuyến nghị kiểm soát các máy chủ MCP được phê duyệt, kiểm tra siêu dữ liệu của công cụ, thực thi các chính sách ngăn ngừa mất dữ liệu, yêu cầu sự chấp thuận của con người đối với các hành động nhạy cảm và đối chiếu dữ liệu đo từ xa của tác nhân với Microsoft Sentinel và các dịch vụ bảo mật khác để phát hiện hành vi bất thường.