Pengenalan dua model inferensi sumber terbuka baru, gpt-oss-120b dan gpt-oss-20b, menandai kemajuan signifikan di bidang AI. Tersedia di bawah lisensi Apache 2.0, model-model ini dirancang dengan masukan dari komunitas sumber terbuka dan untuk memastikan kompatibilitas dengan API yang ada. Model-model ini menawarkan fitur-fitur canggih seperti pelacakan instruksi yang canggih, pencarian web, eksekusi kode Python , dan penyetelan pemrosesan inferensi berdasarkan kompleksitas tugas. Selain itu, model-model ini menawarkan opsi kustomisasi, rangkaian pemikiran penuh, dan dukungan untuk keluaran terstruktur.

Pertimbangan keamanan sangat penting saat menerapkan model terbuka ini. Model-model ini memiliki profil risiko yang berbeda dengan model proprietary. Setelah dirilis, model-model ini dapat dieksploitasi oleh pelaku kejahatan, yang mungkin memodifikasi model untuk menghindari langkah-langkah keamanan atau mengoptimalkannya untuk tujuan yang merugikan. Untuk mengatasi risiko ini, pengembang dan perusahaan harus menerapkan langkah-langkah keamanan tambahan untuk mempertahankan tingkat perlindungan tingkat sistem yang melekat pada model yang dikirimkan melalui API dan produk proprietary.

Evaluasi kapabilitas yang ekstensif telah dilakukan untuk menilai potensi risiko model gpt-oss-120b. Evaluasi tersebut, yang ditinjau oleh kelompok penasihat keselamatan, menunjukkan bahwa model tersebut tidak memenuhi ambang batas kapabilitas yang tinggi dalam kategori risiko utama, termasuk kapabilitas biologis dan kimia, kapabilitas siber, dan pengembangan mandiri AI. Bahkan setelah penyempurnaan adversarial, model tersebut gagal mencapai kapabilitas tinggi dalam risiko biologis dan kimia maupun risiko siber. Lebih lanjut, rilis gpt-oss-120b diperkirakan tidak akan secara signifikan mendorong batas kapabilitas biologis model sumber terbuka, karena kinerjanya sebanding dengan model yang sudah ada.

Peluncuran model ini menegaskan kembali komitmen kami untuk mempromosikan AI yang bermanfaat dan memperkuat standar keselamatan dalam ekosistem AI, yang tercermin dalam kebijakan keselamatan yang dipertimbangkan dengan cermat dan upaya kolaboratif oleh berbagai pemangku kepentingan untuk menjaga sistem yang aman.