Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

Việc giới thiệu hai mô hình suy luận nguồn mở mới, gpt-oss-120b và gpt-oss-20b, đánh dấu một bước tiến đáng kể trong lĩnh vực AI. Được cung cấp theo giấy phép Apache 2.0, các mô hình này được thiết kế với sự đóng góp từ cộng đồng nguồn mở và đảm bảo khả năng tương thích với API hiện có. Các mô hình này cung cấp các tính năng nâng cao như theo dõi lệnh mạnh mẽ, tìm kiếm trên web, thực thi mã Python và điều chỉnh quá trình suy luận dựa trên độ phức tạp của tác vụ. Ngoài ra, chúng còn cung cấp các tùy chọn tùy chỉnh, chuỗi suy nghĩ đầy đủ và hỗ trợ đầu ra có cấu trúc.

Các cân nhắc về an toàn là rất quan trọng khi triển khai các mô hình mở này. Những mô hình này có hồ sơ rủi ro khác với các mô hình độc quyền. Sau khi được phát hành, chúng có thể bị khai thác bởi các tác nhân độc hại, những kẻ có thể điều chỉnh mô hình để lách các biện pháp an toàn hoặc tối ưu hóa nó cho các mục đích gây hại. Để giải quyết rủi ro này, các nhà phát triển và công ty phải triển khai các biện pháp an toàn bổ sung để duy trì mức độ bảo vệ cấp hệ thống vốn có trong các mô hình được cung cấp thông qua API và sản phẩm độc quyền.

Một đánh giá năng lực mở rộng đã được tiến hành để đánh giá các rủi ro tiềm ẩn của mô hình gpt-oss-120b. Đánh giá này, được xem xét bởi một nhóm cố vấn an toàn, cho thấy mô hình không đáp ứng các ngưỡng năng lực cao trong các hạng mục rủi ro chính, bao gồm năng lực sinh học và hóa học, năng lực mạng và khả năng tự cải thiện AI. Ngay cả sau khi tinh chỉnh đối kháng, mô hình vẫn không đạt được năng lực cao về rủi ro sinh học và hóa học hoặc rủi ro mạng. Hơn nữa, việc phát hành gpt-oss-120b không được kỳ vọng sẽ đẩy mạnh đáng kể giới hạn năng lực sinh học của các mô hình nguồn mở, vì hiệu suất của nó tương đương với các mô hình hiện có.

Việc phát hành các mô hình này khẳng định lại cam kết của chúng tôi trong việc thúc đẩy AI có lợi và tăng cường các tiêu chuẩn an toàn trong hệ sinh thái AI, thể hiện qua các chính sách an toàn được cân nhắc kỹ lưỡng của chúng tôi và những nỗ lực hợp tác của nhiều bên liên quan nhằm duy trì các hệ thống an toàn.