Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

MITER và Robust Intelligence đã hợp tác để cung cấp một công cụ miễn phí giúp các tổ chức đánh giá rủi ro chuỗi cung ứng liên quan đến các mô hình AI có sẵn công khai. Sự hợp tác này cũng bao gồm việc hợp tác với Đại học Indiana để phát triển một công cụ đánh giá rủi ro tự động. Khi các mô hình AI phức tạp có sẵn trong các kho lưu trữ công cộng, các tổ chức có thể dễ dàng kết hợp AI vào hệ thống của họ hơn. Tuy nhiên, có rất ít công cụ để thử nghiệm độc lập nhằm đánh giá các rủi ro liên quan. Để giải quyết vấn đề này, Robust Intelligence đã tạo Cơ sở dữ liệu rủi ro AI làm tài nguyên cộng đồng vào tháng 3 năm 2023. Sau những cải tiến hơn nữa khi cộng tác với MITER, phiên bản nguồn mở mới hiện có thể truy cập được trên GitHub. Kế hoạch dài hạn là lưu trữ tính năng này trong bộ công cụ MITER ATLAS rộng hơn. ATLAS là cơ sở kiến ​​thức có thể truy cập toàn cầu, chứa danh sách các chiến thuật và kỹ thuật của kẻ thù dựa trên các quan sát tấn công trong thế giới thực và đội đỏ AI. Nó cũng cung cấp liên kết đến các công cụ khác cho phép mô phỏng cuộc tấn công. Thông qua sự cộng tác của Robust Intelligence và MITER, các rủi ro như điểm rủi ro, lỗ hổng phần mềm và CVE liên quan được mô tả và vận hành. Những đặc điểm này sẽ nâng cao nhận thức về những rủi ro và lỗ hổng có thể phát sinh khi sử dụng các mô hình AI nguồn mở. Douglas Robbins, phó chủ tịch kỹ thuật và tạo mẫu tại MITER cho biết: “Sự hợp tác này và việc phát hành Cơ sở dữ liệu rủi ro AI sẽ giúp nhiều tổ chức hơn quyết định cách họ nên xem xét khi triển khai một số loại hệ thống hỗ trợ AI”. để tự mình xem liệu họ có trực tiếp gặp rủi ro và dễ bị tổn thương hay không.” Ông nói thêm rằng với tư cách là công cụ nguồn mở mới nhất của MITER ATLAS, khả năng này sẽ tiếp tục cung cấp thông tin cho các ưu tiên đánh giá và giảm thiểu rủi ro trên toàn thế giới. Viện Khoa học Dữ liệu và Trí tuệ Nhân tạo Kelley của Đại học Indiana cũng đang tham gia hợp tác, bao gồm khả năng quét các kho lưu trữ GitHub được sử dụng để tạo các mô hình có sẵn trên nền tảng của bên thứ ba. Tính năng này cho phép người dùng xác định các lỗ hổng phần mềm được báo cáo công khai tồn tại ở thượng nguồn của các tạo phẩm mô hình phân tán. Yaron Singer, CEO và đồng sáng lập của Robust Intelligence bày tỏ sự phấn khích. Ông tin rằng MITER ATLAS là người giám sát lý tưởng cơ sở dữ liệu rủi ro AI và chuyên môn chung của cả hai công ty sẽ cho phép sử dụng an toàn các mô hình nguồn mở trong tương lai. Sự hợp tác của chúng tôi với MITER, Robust Intelligence và cộng đồng bảo đảm và bảo mật AI rộng lớn hơn tiếp tục mở rộng tác động và tiện ích của Cơ sở dữ liệu Rủi ro AI như một tài nguyên miễn phí, được cộng đồng hỗ trợ.