Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

Hệ thống Common Vulnerabilities and Exposures (CVE), một phương pháp được công nhận rộng rãi để xác định và giải quyết các lỗ hổng bảo mật phần mềm, đang phải đối mặt với những thách thức mới với sự gia tăng của các mô hình trí tuệ nhân tạo (AI) trong các hệ thống doanh nghiệp. Các chuyên gia bảo mật đang tranh luận liệu có nên đưa các mô hình AI vào hệ thống CVE hay không, vì chúng tiềm ẩn những rủi ro đặc thù, chẳng hạn như lời nhắc đối kháng và dữ liệu đào tạo bị làm giả, không phù hợp với định nghĩa lỗ hổng CVE truyền thống.

Các chuyên gia ngày càng đồng thuận rằng CVE nên chủ yếu nhắm vào các ứng dụng và khuôn khổ sử dụng mô hình AI, chứ không phải bản thân các mô hình. Mô hình AI vốn là các hệ thống toán học được tham số hóa, và các mối lo ngại bảo mật thực sự nằm ở mã nguồn xung quanh chúng, chẳng hạn như xử lý dữ liệu và quản lý phiên. Việc gán CVE cho các mô hình AI có thể làm sai lệch bản chất của các rủi ro vốn có trong các khuôn khổ và công cụ triển khai chúng.

Khi xem xét việc áp dụng CVE cho các mô hình AI, điều quan trọng là phải phân biệt giữa hành vi xác suất của các mô hình này và các lỗ hổng bảo mật thực sự. Nhiều vấn đề với mô hình AI không dành riêng cho bất kỳ trường hợp cụ thể nào mà là vấn đề chung đối với các hệ thống học máy nói chung. Do đó, CVE cho các mô hình AI có thể không cung cấp thông tin hữu ích và có thể làm suy yếu hiệu quả của hệ thống CVE.

Để áp dụng CVE đúng cách, cần tập trung vào các khuôn khổ và ứng dụng có thể bị khai thác, thay vì bản thân các mô hình AI. Cách tiếp cận này đảm bảo rằng CVE vẫn là một nguồn tài nguyên giá trị để theo dõi và giảm thiểu các điểm yếu bảo mật thực sự mà các nhà phát triển và nhóm bảo mật có thể giải quyết. Thay vì chỉ đơn giản phân loại các hành vi thống kê là lỗ hổng, cộng đồng bảo mật được khuyến khích tăng cường đảm bảo chuỗi cung ứng, kiểm soát truy cập và giám sát, đồng thời củng cố hệ sinh thái xung quanh các mô hình AI.