Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

Assured (Shibuya-ku, Tokyo) đã công bố kết quả khảo sát dựa trên dữ liệu đánh giá bảo mật cho các công ty đang ngày càng sử dụng AI. Số lượng dịch vụ AI đã đăng ký đã tăng gấp 4,8 lần trong ba năm qua, và 11,4% dịch vụ đăng ký với Assured là dựa trên AI. Điều này cho thấy nhận thức về rủi ro bảo mật của dịch vụ AI ngày càng tăng và nhu cầu quản lý và đánh giá phù hợp.

Tuy nhiên, khảo sát cũng phát hiện ra rằng 42,8% dịch vụ không dựa trên AI là dịch vụ "AI ẩn" sử dụng AI, chẳng hạn như ChatGPT. Người dùng nên kiểm tra các biện pháp bảo mật dành riêng cho AI trong các dịch vụ này. Assured đã xác định và công bố các mục bảo mật đặc biệt quan trọng.

Chỉ khoảng một nửa số dịch vụ AI có các điều khoản sử dụng hoặc quy tắc được thiết lập rõ ràng cho việc thu thập và sử dụng dữ liệu đào tạo. Các công ty cần thận trọng nếu không làm như vậy, vì có nguy cơ dữ liệu có thể được sử dụng làm dữ liệu đào tạo trong tương lai. Hơn nữa, 22% dịch vụ sử dụng dữ liệu được ủy thác cho đào tạo không có quy tắc được thiết lập, làm dấy lên lo ngại về nguy cơ rò rỉ thông tin mật.

Kiểm soát chất lượng và phòng ngừa tấn công là các biện pháp bảo mật thiết yếu cho các dịch vụ AI, nhưng khảo sát cho thấy các biện pháp này chưa được triển khai tại khoảng 40% dịch vụ. Việc đánh giá kết quả AI đầu ra, giám sát sai lệch và các biện pháp đối phó với các phương thức tấn công chưa đầy đủ có thể dẫn đến các vấn đề về thông tin không chính xác và lỗ hổng bảo mật. Assured cho biết họ sẽ tiếp tục cung cấp các đánh giá bảo mật khách quan để các công ty có thể yên tâm sử dụng dịch vụ đám mây.