rinna (Shibuya-ku, Tokyo) telah mengembangkan seri model performa tinggi Jepang "Nekomata" dan merilisnya di PERJANJIAN LISENSI Tongyi Qianwen. Seiring kemajuan teknologi AI, berbagai macam pemrosesan, termasuk pemrosesan teks, menjadi mungkin dilakukan dengan AI. Hingga saat ini Rinna telah mendukung pengembangan AI dengan menyediakan model platform khusus untuk pemrosesan bahasa Jepang.

Perusahaan mengembangkan seri "Nekomata" berdasarkan Qwen 7B dan 14B, menggunakan pra-pembelajaran berkelanjutan menggunakan data pembelajaran bahasa Jepang. Hasilnya, kami dapat meningkatkan pembuatan teks bahasa Jepang dan kecepatan inferensi. Kami juga mengembangkan model bahasa perintah-respons dan merilis total empat model. Model-model ini diharapkan dapat berkontribusi terhadap kemajuan penelitian dan pengembangan AI di Jepang.

Seri "Nekomata" mewarisi kinerja Qwen yang luar biasa dan telah menunjukkan hasil yang tinggi dalam tugas bahasa Jepang. Dari segi skor benchmark, Nekomata 7B mendapat skor 58,69 dan 14B mendapat skor 67,38. Efisiensi inferensinya juga tinggi, dan dikatakan telah mencapai jumlah token yang efisien dalam pemrosesan teks bahasa Jepang.

Lisensi untuk seri Nekomata diberikan dalam kondisi yang memungkinkan penggunaan komersial. Detailnya dapat ditemukan di informasi resmi. Selain itu, pengembangan Nekomata 14B didukung oleh Program Dukungan Pengembangan AWS LLM, dan pembelajaran pendahuluan berkelanjutan pada instans yang dilengkapi dengan AWS Trainium diselesaikan dalam waktu sekitar 7 hari. saus: