Microsoft mengumumkan kemitraan dengan Thorn dan All Tech is Human untuk memperkuat langkah-langkah keamanan teknologi AI generatif guna melindungi anak-anak dari eksploitasi seksual. Raksasa teknologi ini telah mengintegrasikan prinsip-prinsip yang berfokus pada pencegahan penyalahgunaan AI secara proaktif, yang sejalan dengan strategi yang ada untuk melawan konten berbahaya yang dihasilkan oleh AI. Microsoft menekankan pentingnya arsitektur keselamatan yang kuat dan perlunya kolaborasi di seluruh industri, termasuk kemitraan dengan organisasi seperti National Center for Missing and Exploited Children dan WeProtect Global Alliance.

Untuk memperkuat keselamatan anak, Microsoft telah berkomitmen untuk memasukkan prinsip-prinsip tertentu ke dalam pengembangan, penerapan, dan pemeliharaan model AI generatif. Perusahaan berupaya memastikan model-model ini dilatih untuk secara proaktif mengatasi risiko keselamatan anak dan dievaluasi keamanannya sebelum dirilis. Microsoft juga berencana untuk tetap waspada terhadap platformnya dan secara proaktif merespons risiko keselamatan anak yang muncul. Inisiatif ini merupakan upaya penting untuk mencegah penggunaan teknologi AI untuk membuat dan mendistribusikan materi pelecehan seksual terhadap anak-anak (CSAM) dan konten berbahaya lainnya.

Upaya Microsoft mencakup pelaporan kemajuan secara transparan dan bekerja sama dengan pembuat kebijakan untuk mendukung kerangka hukum yang mempromosikan keselamatan dan inovasi AI. Perusahaan berkomitmen untuk berbagi praktik terbaik dan berkolaborasi dengan AI Safety Institute untuk memajukan langkah-langkah keselamatan. Dengan berfokus pada pengembangan solusi sumber media mutakhir dan mengedepankan tanggung jawab pengembang, Microsoft bertujuan untuk menciptakan lingkungan online yang lebih aman bagi anak-anak dan memerangi penyalahgunaan teknologi AI. saus: