Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

Công ty Aladdin Security (thành phố Kyoto) đã phát hành một công cụ bảo mật đánh giá chất lượng, độ an toàn và khả năng giải thích của trí tuệ nhân tạo (AI). Công cụ này xác minh hành vi bên trong của AI trong môi trường hộp trắng, giúp phát hiện ra những vấn đề thường bị bỏ qua trong các mô hình hộp đen truyền thống.

Khi Trí tuệ Generative AI) được sử dụng rộng rãi hơn trong kinh doanh, nhiều công ty phải đối mặt với những thách thức trong việc đánh giá độ chính xác của AI và các rủi ro nội bộ. Aladdin Security đã phát triển một công cụ giúp trích xuất rủi ro mà không cần tinh chỉnh bằng cách phân tích các vectơ trong mô hình.

Công cụ của công ty trực quan hóa các tham số mô hình và cơ chế chú ý, đồng thời sử dụng công nghệ tấn công mô phỏng (red teaming) để mô phỏng các cuộc tấn công vào các lỗ hổng, từ đó giúp đánh giá rủi ro bảo mật AI với chi phí thấp và tăng cường quản trị doanh nghiệp.

Aladdin Security sẽ tiếp tục tăng cường chức năng đánh giá tự động cho các mô hình tùy chỉnh và mở rộng các mẫu của mình để tuân thủ các quy định cụ thể của ngành, với mục tiêu góp phần nâng cao độ tin cậy của trí tuệ nhân tạo.