Blog Stability AI baru-baru ini menyatakan bahwa Stability AI telah merilis model bahasa skala besar (LLM) akses terbuka baru yang kuat dan dianggap yang terbaik di industri pada saat itu. LLM ini memiliki kemampuan penalaran dan bahasa tingkat lanjut serta mampu memecahkan masalah matematika yang kompleks dan tugas bernilai tinggi lainnya. Untuk meningkatkan keamanan dan kinerja model, Stability AI meminta peneliti dan pengembang keselamatan AI untuk memberikan masukan dan mengulangi teknologi tersebut. Namun, mengevaluasi model-model ini memerlukan kekuatan komputasi yang besar yang berada di luar jangkauan peneliti sehari-hari. Untuk mengatasi masalah ini, Stability AI mengumumkan dua inisiatif untuk membuat model terbaik tersedia lebih luas. Upaya pertama adalah Stable Chat, sebuah situs web gratis tempat para peneliti dan penggemar keselamatan AI dapat secara interaktif mengevaluasi respons LLM terbaik dan memberikan umpan balik mengenai keamanan dan kegunaannya. Inisiatif kedua termasuk menampilkan model AI Stabilitas terbaik dalam kompetisi “AI Village” Tim Merah yang disponsori Gedung Putih di DEFCON 31 di Las Vegas. Kompetisi ini bertujuan untuk menguji batasan model dan mengidentifikasi kerentanan dan bias. Untuk memfasilitasi evaluasi model, Stability AI meluncurkan Stable Chat Research Preview, sebuah antarmuka web yang memungkinkan komunitas AI mengevaluasi model bahasa secara interaktif dalam skala besar. Peneliti dapat menggunakan platform ini untuk memberikan masukan mengenai keamanan dan kualitas respons model serta menandai konten yang bias atau berbahaya. Namun, Stability AI menekankan bahwa situs web ini dimaksudkan untuk tujuan penelitian saja dan tidak boleh digunakan untuk aplikasi dunia nyata atau penggunaan komersial. Pada bulan Agustus, model terbaik dalam Stability AI akan dipamerkan di DEFCON 31, di mana para peserta akan menilai dan mempelajari kerentanan, bias, dan risiko keselamatan. Hasil dari acara ini akan membantu Stability AI dan komunitas AI yang lebih luas membangun model yang lebih aman dan menyoroti pentingnya penilaian independen terhadap keamanan dan akuntabilitas AI. Stability AI berkomitmen untuk mempromosikan transparansi dalam AI dan melihat partisipasi kami di DEFCON sebagai peluang untuk berkolaborasi dengan peneliti keamanan eksternal.