Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

MLCommons giới thiệu AILluminate, một thử nghiệm an toàn tiên phong dành cho các mô hình ngôn ngữ quy mô lớn (LLM), cung cấp một bộ cấp độ an toàn toàn diện cho các LLM được sử dụng rộng rãi. Được tạo ra với sự cộng tác của các nhà nghiên cứu AI và chuyên gia trong ngành, Tiêu chuẩn An toàn AI này nhằm cung cấp phân tích khoa học và độc lập về rủi ro LLM, đồng thời cung cấp thông tin cho Masu về quá trình ra quyết định. Người sáng lập tổ chức, Peter Mattson, nhấn mạnh sự cần thiết phải thử nghiệm tiêu chuẩn hóa AI, tương tự như các đánh giá an toàn được sử dụng cho các công nghệ phức tạp khác, để hướng dẫn phát triển AI có trách nhiệm.

Điểm chuẩn AILuminate đánh giá LLM một cách nghiêm ngặt bằng cách sử dụng hơn 24.000 lời nhắc kiểm tra trên 12 danh mục nguy hiểm. Mô hình không có kiến ​​thức trước về lời nhắc hoặc quyền truy cập vào mô hình xếp hạng. Cách tiếp cận này đảm bảo mức độ chặt chẽ về mặt phương pháp thường thiếu trong nghiên cứu học thuật tiêu chuẩn và cung cấp phân tích thực nghiệm mà cả ngành và giới học thuật đều có thể tin tưởng. Rebecca Weiss, giám đốc điều hành của MLCommons, nhấn mạnh những nỗ lực của tổ chức trong việc thiết lập cơ sở toàn cầu về rủi ro và độ tin cậy của AI, đồng thời làm cho AI trở nên minh bạch và đáng tin cậy hơn.

Được phát triển bởi Nhóm công tác về độ tin cậy và rủi ro AI của MLCommons, bao gồm các nhà nghiên cứu AI từ các trường đại học hàng đầu và các chuyên gia kỹ thuật từ các công ty công nghệ hàng đầu, AILuminate thể hiện nỗ lực hợp tác nhằm tiêu chuẩn hóa sự an toàn của AI. Nhóm làm việc sẽ cập nhật các tiêu chuẩn khi công nghệ AI phát triển, được hỗ trợ bởi các nhà lãnh đạo ngành và học thuật, những người nhận ra tầm quan trọng của các tiêu chuẩn an toàn chung. Camille Francois, giáo sư tại Đại học Columbia, cho biết AILuminate sẽ thúc đẩy sự hợp tác minh bạch và tiếp tục nghiên cứu các thách thức về an toàn của AI.

Quá trình phát triển của AILuminate áp dụng cách tiếp cận toàn cầu, có nhiều bên liên quan và được công nhận về tính kỹ lưỡng và toàn diện. Percy Liang của Đại học Stanford và Navrina Singh của Credo AI thừa nhận vai trò của điểm chuẩn trong việc xây dựng xếp hạng an toàn đáng tin cậy và thiết lập nền tảng quan trọng cho các tiêu chuẩn an toàn AI. Với bản phát hành đầu tiên bằng tiếng Anh, MLCommons có kế hoạch mở rộng khả năng cung cấp AILluminate sang tiếng Pháp, tiếng Trung và tiếng Hindi vào đầu năm 2025, phản ánh cam kết của họ đối với cách tiếp cận hợp tác toàn cầu đối với an toàn AI. Để biết thêm thông tin về MLCommons và AILluminateBenchmark, hãy truy cập trang web của tổ chức.