Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

Microsoft vừa phát hành báo cáo Cyber ​​Pulse mới, tập trung vào quản trị trí tuệ nhân tạo (AI) và các tác nhân tự động, cung cấp cho các nhà lãnh đạo những hiểu biết sâu sắc về các rủi ro an ninh mạng mới nổi. Báo cáo nhấn mạnh tầm quan trọng của việc bảo vệ các tác nhân AI bằng khả năng quan sát, quản trị và các biện pháp bảo mật dựa trên nguyên tắc không tin tưởng (zero trust). Báo cáo cho rằng các tổ chức tích hợp các nhóm kinh doanh, CNTT, bảo mật và phát triển để quản lý quá trình chuyển đổi AI của họ sẽ có nhiều khả năng thành công hơn.

Việc sử dụng các tác nhân AI không chỉ giới hạn ở các vai trò kỹ thuật. Nhân viên ở khắp các bộ phận đang tạo ra và sử dụng các tác nhân này trong công việc hàng ngày của họ. Báo cáo lưu ý rằng phần lớn các công ty trong danh sách Fortune 500 đã triển khai các tác nhân AI được phát triển bằng các công cụ không cần lập trình/ no-code . Các tác nhân này đang trở thành một phần không thể thiếu trong các hoạt động như bán hàng, tài chính, bảo mật, dịch vụ khách hàng và đổi mới sản phẩm, nhấn mạnh sự cần thiết của quản trị cơ bản và việc áp dụng nhất quán các nguyên tắc bảo mật không tin tưởng (zero trust).

Mặc dù việc ứng dụng rộng rãi các tác nhân AI, nhiều tổ chức vẫn gặp khó khăn trong việc theo dõi số lượng tác nhân đang được sử dụng, quyền sở hữu của chúng và dữ liệu mà chúng tương tác. Báo cáo của Cyber ​​Pulse tiết lộ rằng một tỷ lệ đáng kể nhân viên đang sử dụng các tác nhân AI trái phép trong công việc của họ, cho thấy sự thiếu kiểm soát thích hợp. Sự thiếu khả năng giám sát và quản trị này có thể dẫn đến những rủi ro đáng kể, đặc biệt là trong các ngành công nghiệp được quản lý chặt chẽ.

Báo cáo nêu ra năm khả năng cốt lõi để đạt được khả năng quan sát và quản trị hiệu quả các tác nhân AI, bao gồm hệ thống đăng ký tập trung, kiểm soát truy cập dựa trên danh tính và chính sách, khả năng hiển thị theo thời gian thực, khả năng tương tác và các biện pháp bảo mật tích hợp. Báo cáo phân biệt giữa quản trị và bảo mật, nhấn mạnh rằng cả hai đều thiết yếu và phải được giải quyết như những trách nhiệm đa chức năng. Báo cáo Cyber ​​Pulse của Microsoft kết luận rằng các tổ chức ưu tiên quản lý rủi ro AI sẽ đạt được lợi thế cạnh tranh thông qua tính minh bạch và đổi mới.