OpenAI dan laboratorium AI terkemuka lainnya melakukan upaya sukarela untuk memperkuat keselamatan, keamanan, dan keandalan teknologi dan layanan AI. Upaya ini, yang dikoordinasikan oleh Gedung Putih, merupakan langkah penting dalam mendorong tata kelola AI yang efektif di seluruh dunia. Sebagai bagian dari misi kami untuk mengembangkan AGI yang aman dan berguna, OpenAI secara aktif melakukan uji coba dan menyempurnakan praktik tata kelola khusus untuk jenis model dasar berkinerja tinggi yang dihasilkan OpenAI. Kami juga berinvestasi dalam penelitian untuk menginformasikan peraturan, termasuk teknik untuk menilai fitur yang berpotensi membahayakan dalam model AI. Inisiatif sukarela ini bertujuan untuk mendorong pengembangan dan penggunaan teknologi AI secara aman, terjamin, dan transparan. Hal ini sejalan dengan undang-undang dan peraturan yang ada dan bertujuan untuk memajukan sistem hukum dan kebijakan untuk AI generatif. Komitmen ini akan tetap berlaku sampai peraturan yang mencakup permasalahan serupa ditetapkan, namun masing-masing perusahaan dapat melampaui komitmen tersebut. Keselamatan adalah prioritas utama, dan perusahaan yang melakukan inisiatif ini berkomitmen untuk melakukan tim merah internal dan eksternal pada model atau sistem mereka. Hal ini termasuk menilai permasalahan keamanan nasional seperti eksploitasi, risiko sosial, bio, siber, dan bidang keamanan lainnya. Perusahaan ini memanfaatkan pakar independen untuk mengembangkan struktur tim merah yang terspesialisasi dan terperinci untuk setiap peluncuran model baru ke publik. Hal ini juga akan fokus pada penanganan risiko biologis, kimia, dan radiologi, kemampuan dunia maya, interaksi sistem dan penggunaan alat, replikasi diri, dan risiko sosial seperti bias dan diskriminasi. OpenAI dan perusahaan lain berkomitmen untuk memajukan penelitian keselamatan AI dan menerbitkan prosedur keselamatan dan tim merah. Di OpenAI, untuk meningkatkan kepercayaan dan keamanan, perusahaan berusaha untuk berbagi informasi antara mereka dan pemerintah tentang risiko kepercayaan dan keselamatan, kemampuan berbahaya, dan upaya untuk menghindari perlindungan, dan untuk mempromosikan keamanan AI terdepan standar bersama dan praktik terbaik untuk kesetaraan gender. Kerja sama ini akan memfasilitasi pertukaran informasi dan pengembangan kelompok kerja teknis mengenai risiko dan ancaman yang muncul. Keamanan adalah aspek yang sangat penting, dan perusahaan yang melakukan inisiatif ini akan berinvestasi dalam keamanan siber dan perlindungan ancaman orang dalam untuk melindungi model mereka yang belum dirilis dan merupakan hak milik mereka. Batasi akses ke bobot model hanya untuk personel yang berwenang dan buat program deteksi ancaman orang dalam yang kuat. Selain itu, kami mendorong pihak ketiga untuk menemukan dan melaporkan masalah dan kerentanan melalui sistem bounty dan program bug bounty kami. Untuk menumbuhkan kepercayaan, perusahaan akan mengembangkan mekanisme yang memungkinkan pengguna menentukan apakah konten audio atau video dihasilkan oleh AI. Buat sistem asal dan penandaan air yang kuat untuk konten yang dihasilkan AI dan kembangkan alat dan API untuk memverifikasi asal konten. Perusahaan juga secara publik melaporkan kemampuan, keterbatasan, dan area penggunaan model atau sistem yang sesuai dan tidak tepat. Mereka akan memprioritaskan penelitian mengenai risiko sosial yang ditimbulkan oleh sistem AI, seperti bias dan diskriminasi yang merugikan, serta melindungi privasi. Selain itu, perusahaan-perusahaan yang melakukan inisiatif ini akan mengembangkan dan menerapkan sistem AI terdepan untuk mengatasi tantangan terbesar masyarakat, seperti perubahan iklim, deteksi kanker, dan ancaman dunia maya. Mendukung upaya untuk memajukan pendidikan dan pelatihan AI dan membantu masyarakat memahami sifat, kemampuan, keterbatasan, dan dampak teknologi. OpenAI dan perusahaan lain bekerja sama dengan pemerintah, organisasi masyarakat sipil, dan akademisi untuk memajukan tata kelola AI. Upaya sukarela ini akan memberikan kontribusi praktik nyata dan konkrit terhadap perdebatan yang sedang berlangsung mengenai regulasi AI, dan mendorong pengembangan dan penggunaan teknologi AI yang bertanggung jawab dan bermanfaat dengan memprioritaskan keselamatan, keamanan, dan kepercayaan.