Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

OpenAI đang mời các chuyên gia từ nhiều lĩnh vực khác nhau tham gia Mạng lưới nhóm đỏ, một thành phần quan trọng trong việc đánh giá và nâng cao tính an toàn của các mô hình AI. Mạng đã phát triển từ thử nghiệm nội bộ sang cộng tác với các chuyên gia bên ngoài và tập trung vào đánh giá rủi ro theo từng miền cụ thể. Mục tiêu là tăng cường và mở rộng sự hợp tác này với các chuyên gia, tổ chức nghiên cứu và tổ chức xã hội dân sự để bổ sung cho các hoạt động quản trị bên ngoài như kiểm toán của bên thứ ba. Các thành viên mạng lưới đóng góp chuyên môn của họ cho nỗ lực của đội đỏ ở các giai đoạn phát triển mô hình khác nhau chỉ từ 5 đến 10 giờ mỗi năm. Ngoài ra, các thành viên còn có cơ hội trao đổi ý kiến ​​với nhau về các hoạt động và phát hiện của đội đỏ. OpenAI tìm kiếm chuyên môn đa dạng từ các lĩnh vực và khu vực khác nhau trên thế giới, bao gồm nhưng không giới hạn ở khoa học nhận thức, an ninh mạng, ngôn ngữ học, v.v. Kinh nghiệm trước đây với hệ thống AI không phải là điều kiện tiên quyết và phần thưởng sẽ được trao cho những đóng góp. Mạng này cung cấp một cơ hội duy nhất để tác động đến sự phát triển của các chính sách và công nghệ AI an toàn hơn. OpenAI coi trọng sự đa dạng về chuyên môn, tính đại diện theo địa lý và nền tảng. Các thành viên không bắt buộc phải tham gia vào mọi dự án của Đội Đỏ, mang lại sự linh hoạt cho những người tham gia. Ngoài Red Teaming Network, còn có các cơ hội hợp tác an toàn AI khác. Chúng bao gồm việc đóng góp vào kho lưu trữ Evals nguồn mở của OpenAI và đăng ký vào Chương trình truy cập của nhà nghiên cứu, hỗ trợ nghiên cứu liên quan đến việc áp dụng AI có trách nhiệm và giảm thiểu rủi ro.