Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

ZURICH - COMPL-AI, một khuôn khổ đánh giá mới cho các mô hình Generative AI , đã phát hiện ra các vấn đề compliance đáng kể với các mô hình trích xuất của DeepSeek. Mặc dù các mô hình này có khả năng kiểm soát độc tính, nhưng chúng lại cho thấy những thiếu sót trong các lĩnh vực như an ninh mạng và loại bỏ thiên vị, làm dấy lên câu hỏi về tính phù hợp của chúng đối với việc triển khai trong doanh nghiệp.

Khung này, một nỗ lực chung giữa ETH Zurich, INSAIT và LatticeFlow AI, cung cấp một cách tiếp cận tập trung vào tuân thủ để chuyển đổi các yêu cầu theo quy định thành các đánh giá kỹ thuật. Nó đóng vai trò là một công cụ độc lập để đánh giá các mô hình AI từ các tổ chức nổi tiếng và giúp các công ty đánh giá xem họ có tuân thủ luật AI EU hay không.

Trong ứng dụng gần đây của COMPL-AI, LatticeFlow AI đã xem xét kỹ lưỡng hai mô hình DeepSeek để xác định xem chúng có tuân thủ luật AI EU hay không và phát hiện ra rằng các mô hình này tụt hậu về các biện pháp an ninh mạng và có mức độ sai lệch cao hơn so với các mô hình cơ bản, nhưng lại cho thấy khả năng giảm thiểu độc tính tốt hơn.

Tiến sĩ Petar Tsankov, Tổng giám đốc điều hành của LatticeFlow AI, nhấn mạnh tầm quan trọng của việc đánh giá công nghệ trong việc điều chỉnh quản trị AI của doanh nghiệp theo các tiêu chuẩn compliance bên ngoài. Ông lưu ý rằng mặc dù có những tiến bộ về khả năng AI, các doanh nghiệp không thể bỏ qua những sai sót quan trọng gây ra rủi ro hoạt động. COMPL-AI hướng đến mục tiêu cung cấp một cách toàn diện và minh bạch để đánh giá và giải quyết các rủi ro liên quan đến AI.