OpenAI mengumumkan Sora, model generasi video canggih yang dapat membuat video resolusi tinggi dari berbagai input, termasuk teks, gambar, dan konten video yang ada. Teknologi Sora dapat menghasilkan video hingga 1080p dan berdurasi 20 detik, menciptakan platform di mana pengguna dapat menyempurnakan dan me-remix aset mereka sendiri dan menemukan inspirasi dari karya komunitas yang ditampilkan dalam feed model yang disediakan.

Membangun kemajuan dari model sebelumnya seperti DALL·E dan GPT, Sora menggunakan pendekatan model difusi untuk mengubah video dasar dari noise statis menjadi gambar tajam dalam beberapa langkah. Hal ini memastikan konsistensi subjek meskipun subjek berada di luar bingkai untuk sementara. Arsitektur transformator model ini menjanjikan penskalaan yang efisien, mirip dengan fitur yang ditemukan pada model GPT.

Kemampuan Sora untuk menghasilkan video sesuai dengan instruksi teks disebabkan oleh teknik pembuatan teks ulang yang dipinjam dari DALL·E 3 yang menciptakan teks yang sangat deskriptif untuk data pelatihan visual. Model ini dapat menganimasikan gambar diam atau memodifikasi video yang sudah ada secara tepat, sehingga membuka jalan bagi model yang dapat menyimulasikan skenario dunia nyata. Ini merupakan langkah penting menuju pencapaian kecerdasan umum buatan (AGI).

Namun, potensi penyalahgunaan, seperti pembuatan konten yang menyesatkan atau eksplisit, telah menyebabkan OpenAI menerapkan langkah-langkah keamanan yang ketat. Hal ini mencakup strategi implementasi DALL·E di ChatGPT dan produk lainnya, dan penelitian sedang dilakukan untuk meningkatkan perlindungan ini.

Model ini dilatih pada berbagai kumpulan data, termasuk data publik, data kepemilikan dari kemitraan, dan kumpulan data internal khusus. Pemfilteran pra-pelatihan dan pra-pemrosesan data menghapus konten sensitif, sehingga membuat kumpulan data pelatihan lebih aman.

Dalam persiapan peluncuran Sora, OpenAI berkolaborasi dengan seniman visual dan pembuat film di seluruh dunia untuk menyempurnakan model dan melakukan penilaian internal dan eksternal yang ekstensif untuk mengidentifikasi dan memitigasi risiko. Pembatasan usia, batas upload potret, dan ambang batas moderasi konservatif adalah bagian dari pendekatan berulang terhadap keselamatan.

Tim merah eksternal memainkan peran penting dalam menguji mitigasi keselamatan Sora. Tim merah dari berbagai negara menyelidiki potensi risiko, menguji fungsionalitas model, dan memberikan masukan berharga yang mengarah pada langkah-langkah keselamatan tambahan.

Komitmen OpenAI terhadap keselamatan meluas ke bidang-bidang tertentu seperti perlindungan anak, melalui kemitraan dengan organisasi seperti NCMEC dan penggunaan pengklasifikasi lanjutan untuk mencegah pembuatan dan penyebaran konten berbahaya. Kebijakan yang melarang produksi materi eksplisit atau menipu, termasuk deepfake, ditegakkan melalui kombinasi mitigasi teknologi dan pendidikan pengguna.

OpenAI terus menyempurnakan Sora, dan pekerjaan di masa depan akan fokus pada perluasan potensi kreatif model sambil memastikan integritas dan keamanan etika. Organisasi ini terus berupaya meningkatkan presentasi keluaran, transparansi, dan alat asal berdasarkan umpan balik pengguna dan evaluasi berkelanjutan.