Rakuten (Tokyo) telah merilis model bahasa Jepang berskala besar baru, "Rakuten AI 2.0," dan model bahasa berskala kecil, "Rakuten AI 2.0 mini." Model-model ini menggunakan arsitektur Mixture of Experts dan disediakan di bawah lisensi Apache 2.0. Model-model ini dapat diunduh dari repositori "Hugging Face" milik Rakuten.

"Rakuten AI 2.0" telah disempurnakan menggunakan SimPO untuk mencapai pengoptimalan yang lebih mendekati preferensi manusia. Dalam evaluasi menggunakan MT-Bench versi Jepang, ia menunjukkan kinerja yang lebih tinggi daripada model lain dengan ukuran yang sama. "Rakuten AI 2.0 mini" juga menunjukkan kinerja terbaik di antara model dengan ukuran yang sama.

Ting Tsai CAIDO dari Rakuten berkomentar bahwa model AI baru akan membantu perusahaan merealisasikan nilai dengan cepat dan mempercepat pengembangan AI di Jepang. Rakuten bertujuan untuk mempromosikan penciptaan layanan dan produk baru melalui penggunaan AI dan membangun komunitas.

"Rakuten AI 2.0" Rakuten terdiri dari delapan submodel dengan 7 miliar parameter, yang dilatih dengan data bahasa Jepang dan Inggris berkualitas tinggi. Sementara itu, "Rakuten AI 2.0 mini" dilatih dengan 1,5 miliar parameter melalui proses penyaringan dan anotasi data internal. Rakuten akan terus mempromosikan AI-nization dengan tujuan memajukan teknologi AI.