Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

Microsoft nhấn mạnh việc tích hợp ngày càng tăng các tác nhân AI vào an ninh mạng, làm nổi bật tiềm năng bảo vệ nâng cao và các lỗ hổng bảo mật mới. IDC dự đoán sẽ có 1,3 tỷ tác nhân AI vào năm 2028, và Microsoft nhấn mạnh tầm quan trọng của việc hiểu rõ bản chất kép của AI: nếu không được quản lý đúng cách, AI có thể tăng cường khả năng phòng thủ đồng thời tạo ra rủi ro. Microsoft ủng hộ một phương pháp tiếp cận chiến lược đối với bảo mật AI, tập trung vào việc nhận biết bối cảnh mối đe dọa đang phát triển và triển khai các biện pháp bảo mật mạnh mẽ.

Microsoft khuyến nghị các tổ chức áp dụng khuôn khổ "tín nhiệm không cần tin cậy" (agent zero trust), bao gồm việc ngăn chặn và hợp tác chặt chẽ giữa các tác nhân AI. Phương pháp này bao gồm việc hạn chế quyền truy cập của tác nhân ở mức tối thiểu cần thiết cho vai trò của họ và đảm bảo họ được đào tạo để chống lại việc sử dụng sai mục đích. Sau khi tham khảo ý kiến của các chuyên gia trong ngành, bao gồm Mustafa Suleiman, Microsoft nhấn mạnh sự cần thiết của việc các tác nhân AI hoạt động trong một môi trường được kiểm soát và hoạt động đúng mục đích để giảm thiểu rủi ro sử dụng sai mục đích.

Microsoft cũng nhấn mạnh tầm quan trọng của việc thúc đẩy văn hóa đổi mới an toàn trong các tổ chức. Điều này bao gồm việc thúc đẩy đối thoại cởi mở về rủi ro AI, thu hút các nhóm liên chức năng tham gia thảo luận về bảo mật AI và cung cấp đào tạo liên tục về các nguyên tắc cơ bản của bảo mật AI. Công ty khuyến khích thử nghiệm an toàn với AI để thúc đẩy đổi mới mà không ảnh hưởng đến bảo mật.

Cuối cùng, Microsoft vạch ra các bước thiết thực mà các công ty có thể thực hiện để tăng cường bảo mật AI, bao gồm việc gán ID duy nhất cho các tác nhân AI, ghi lại mục đích sử dụng và giám sát hoạt động của chúng. Microsoft cam kết hỗ trợ khách hàng thông qua các sáng kiến như Microsoft Entra Agent ID và tận dụng AI trong các sản phẩm bảo mật của mình để chống lại các mối đe dọa mạng. Charlie Bell, Phó Chủ tịch Điều hành phụ trách Bảo mật tại Microsoft, đã nhấn mạnh tầm quan trọng của một tương lai nơi con người và các tác nhân AI cùng nhau hợp tác để tạo ra một môi trường kỹ thuật số an toàn hơn.