Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

Microsoft cho biết sự trỗi dậy của trí tuệ nhân tạo (AI) dựa trên tác nhân đang định hình lại các mối lo ngại về bảo mật, vì các hệ thống này có thể truy cập dữ liệu, gọi các công cụ và hoạt động bằng danh tính và quyền hạn thực.

Công ty đã trích dẫn các phát hiện từ OWASP, trong đó xác định các rủi ro chính bao gồm chiếm đoạt mục tiêu, lạm dụng công cụ và lạm dụng đặc quyền trong các hệ thống tự động.

Người ta chỉ ra rằng các lỗi trong các hệ thống này không chỉ dừng lại ở kết quả đầu ra không chính xác, mà còn có khả năng gây ra hiệu ứng dây chuyền trên các quy trình làm việc, hệ thống và môi trường dữ liệu.

Microsoft nhấn mạnh các nền tảng như Microsoft Copilot Studio và Microsoft Agent 365 như một phần trong cách tiếp cận của họ để tăng cường quản trị, khả năng hiển thị và bảo mật trong suốt vòng đời của AI dựa trên tác nhân.