Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

Bộ trưởng Thông tin và Truyền thông Singapore Josephine Teo đã công bố AI Verify-Project Moonshot, một bộ công cụ mới nhằm tăng cường tính bảo mật và an toàn của các mô hình ngôn ngữ quy mô lớn (LLM). Bộ công cụ này là một trong những bộ công cụ có nguồn mở đầu tiên trên thế giới, tích hợp thử nghiệm nhóm đỏ, đo điểm chuẩn và kiểm tra cơ bản vào một nền tảng thân thiện với người dùng. Sáng kiến ​​này phản ánh cam kết của Singapore trong việc tận dụng cộng đồng nguồn mở toàn cầu để giảm thiểu rủi ro liên quan đến công nghệ AI.

Project Moonshot đang ở giai đoạn beta mở, cung cấp một cách dễ dàng cho người dùng, ngay cả những người không có chuyên môn kỹ thuật, đánh giá chất lượng và độ an toàn của các mô hình và ứng dụng AI. Việc phát triển bộ công cụ này đòi hỏi sự cộng tác với các đối tác trong ngành để đảm bảo tính phù hợp và hữu ích của nó. Ngoài ra, Project Moonshot đang góp phần thiết lập các tiêu chuẩn thử nghiệm phổ quát và các tổ chức thử nghiệm AI lớn đã cho thấy ý định phát triển một bộ tiêu chuẩn an toàn chung.

Tổ chức Xác minh AI (AIVF), tập trung vào việc thúc đẩy việc sử dụng AI có trách nhiệm thông qua kiến ​​thức tập thể, kỷ niệm một năm thành lập với sự phát triển đáng kể và các sáng kiến ​​mới. Số lượng thành viên đang tăng lên nhanh chóng, với các công ty nổi bật tham gia với tư cách là thành viên Premier. Các hoạt động của Quỹ bao gồm từ các công cụ kiểm tra AI đến tạo ra các sản phẩm an toàn AI giúp tăng độ tin cậy và tuân thủ các tiêu chuẩn quốc tế cũng như khung pháp lý địa phương.

Bên cạnh những tiến bộ về an toàn AI, Bộ trưởng Teo nhấn mạnh những nỗ lực nhằm thu hẹp sự chênh lệch giới tính trong ngành công nghệ Đông Nam Á. Báo cáo, do IMDA và BCG đồng tác giả, đã khảo sát hàng nghìn người trên khắp khu vực và phát hiện ra những tiến bộ cũng như khả năng cải thiện sự hiện diện của phụ nữ trong vai trò công nghệ và lãnh đạo. Cam kết của Singapore trong việc hỗ trợ phụ nữ trong lĩnh vực công nghệ được thể hiện rõ ràng thông qua một loạt sáng kiến, bao gồm phong trào Phụ nữ Công nghệ SG và các chương trình nhằm khuyến khích phụ nữ nâng cao kỹ năng và quay trở lại với công nghệ. Những nỗ lực này đã đưa Singapore trở thành quốc gia dẫn đầu về đại diện giới trong lĩnh vực công nghệ ở Đông Nam Á.