Rakuten (Tokyo) mengumumkan model berbasis di Jepang "Rakuten AI 7B" yang dikembangkan berdasarkan "Mistral-7B-v0.1" dari Mistral AI Prancis. Model ini memiliki 7 miliar parameter dan diskalakan serta dilatih sebelumnya pada cluster GPU yang dirancang oleh Rakuten. Selain itu, disediakan model obrolan "Obrolan Rakuten AI 7B", yang berspesialisasi dalam menghasilkan kalimat percakapan.

LLM Rakuten mencapai kinerja tinggi melalui pra-pembelajaran menggunakan data berkualitas tinggi. Ia menggunakan penganalisis morfologi unik untuk meningkatkan efisiensi dalam pemrosesan bahasa Jepang. Selanjutnya, evaluasi menggunakan alat evaluasi model bahasa "LM Evaluation Harness" menunjukkan kinerja yang tinggi dalam LLM Jepang dan Inggris.

Ketiga model tersebut disediakan di bawah lisensi Apache 2.0 dan dapat diunduh dari repositori "Hugging Face" Rakuten. Ini dapat digunakan secara komersial untuk berbagai tugas pembuatan teks, seperti peringkasan teks dan menjawab pertanyaan, dan juga dapat digunakan sebagai dasar untuk model lainnya.

CDO Rakuten Ting Tsai mengungkapkan niatnya untuk berbagi ilmu yang diperoleh melalui pengembangan LLM dengan komunitas open source dan berkontribusi pada pengembangan LLM Jepang. Rakuten bertujuan untuk mempromosikan penggunaan teknologi AI dan menciptakan nilai baru di seluruh dunia.