Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

DataRobot đã công bố hợp tác với một cơ quan chính phủ Singapore để tăng cường quản lý các mô hình ngôn ngữ quy mô lớn (LLM) trong AI. Việc tích hợp với sáng kiến ​​'Project Moonshot' được công bố tại Hội nghị thượng đỉnh Singapore Asia Tech x Summit sẽ mang đến cho các chuyên gia AI những công cụ mới để đánh giá và giảm thiểu rủi ro triển khai. Những công cụ này bao gồm một khuôn khổ chung cho các bài tập đo điểm chuẩn và nhóm đỏ và hiện là một phần trong các bản phát hành sản phẩm mới nhất của DataRobot.

Jay Schuren, giám đốc khách hàng tại DataRobot, bày tỏ sự hào hứng với việc kết hợp bộ công cụ thử nghiệm của Project Moonshot vào nền tảng của mình. Sự tích hợp này nhằm mục đích làm cho các đánh giá LLM dễ tiếp cận hơn và thúc đẩy việc sử dụng AI có trách nhiệm. Nền tảng cập nhật cho phép người dùng kích hoạt các mô hình bảo vệ cho phép họ sửa đổi hành vi và phản hồi của LLM, tạo dựng niềm tin vào các ứng dụng AI.

Project Moonshot cung cấp ba tính năng chính: một công cụ đánh giá tự động có thể được tích hợp vào các quy trình CI/CD hiện có, một kho lưu trữ điểm chuẩn để đánh giá tùy chỉnh và một công cụ toàn diện cho các bài tập nhóm đỏ AI, bao gồm bẻ khóa và tấn công tùy chỉnh. Chúng tôi đang giới thiệu các tính năng mới. . Tiến sĩ Ong Chen Hui, Chủ tịch Ban chỉ đạo AI Verify Foundation, nhấn mạnh tầm quan trọng của Dự án Moonshot là một trong những công cụ nguồn mở đầu tiên kết hợp các bài tập nhóm đỏ và đo điểm chuẩn trong một nền tảng thân thiện với người dùng, nhấn mạnh tầm quan trọng của Project Moonshot với tư cách là một trong những công cụ nguồn mở đầu tiên kết hợp các bài tập của đội đỏ và đánh giá điểm chuẩn trong một nền tảng thân thiện với người dùng cho biết nó đang góp phần vào nỗ lực nguồn mở toàn cầu hướng tới sự an toàn.

Giám đốc điều hành EDBI Paul Ng ủng hộ sự phát triển của DataRobot ở Đông Nam Á, ca ngợi sự mở rộng của công ty tại Singapore và vai trò của công ty trong việc thúc đẩy đổi mới địa phương, bao gồm cả thông qua quan hệ đối tác với IMDA. Project Moonshot cung cấp cho các doanh nghiệp địa phương những công cụ họ cần để tự tin triển khai công nghệ AI tổng hợp. Sự tham gia của DataRobot vào Tổ chức xác minh AI và chứng nhận của IMDA phản ánh cam kết của công ty trong việc thúc đẩy các khuôn khổ thử nghiệm và quản trị AI.