OpenAI telah mengumumkan peluncuran program Safety Bug Bounty baru yang bertujuan untuk mengidentifikasi dan mengurangi potensi penyalahgunaan dan risiko keamanan dalam aplikasi AI. Inisiatif ini berupaya menjaga keamanan sistem mereka dengan mengatasi masalah yang dapat menyebabkan kerugian di dunia nyata, bahkan jika masalah tersebut tidak memenuhi syarat sebagai kerentanan keamanan. Program ini mengundang kolaborasi dengan para peneliti untuk mengidentifikasi dan menyelesaikan masalah yang mungkin tidak secara tradisional diakui sebagai ancaman keamanan tetapi tetap menimbulkan bahaya yang signifikan.

Program ini akan beroperasi bersamaan dengan program Security Bug Bounty OpenAI yang sudah ada, dengan fokus pada skenario keamanan khusus AI. Ini termasuk risiko perilaku agen, di mana agen AI dapat dimanipulasi untuk melakukan tindakan berbahaya atau membocorkan data sensitif, dan paparan informasi milik OpenAI. Selain itu, program ini akan mengatasi kerentanan yang membahayakan integritas akun dan platform, seperti melewati kontrol anti-otomatisasi atau mengakses fitur yang tidak sah.

Para peneliti yang berpartisipasi dalam program Safety Bug Bounty didorong untuk melaporkan masalah yang dapat secara langsung membahayakan pengguna, dengan kemungkinan menerima imbalan atas temuan mereka berdasarkan kasus per kasus. Namun, program ini menetapkan batasan yang jelas, dengan mengecualikan pengabaian kebijakan konten umum yang tidak menunjukkan dampak nyata terhadap keamanan atau penyalahgunaan. OpenAI juga menjalankan kampanye bug bounty pribadi untuk jenis bahaya tertentu dan mengundang para peneliti untuk mendaftar dalam inisiatif khusus ini.