rinna（東京都渋谷区）は、高性能なテキスト生成モデル「Llama 3 Youko 8B」を開発し、Meta Llama 3 Community Licenseで公開したと発表。日本語データを用いた継続事前学習により、日本語タスクに特化したモデルを提供する。

AI技術の進化に伴い、rinnaはGPTやBERTなどの基盤モデルを公開。これまでHugging Faceで公開したモデルは560万ダウンロードを超える。Llama 3 Youko 8Bは、日本語のテキスト生成能力を高めるために開発された。

「Llama 3 Youko 8B」は、80億パラメータを持つLlama 3 8Bをベースに、日英220億トークンで学習。Stability-AIのベンチマークでは、Llama 3に比べて高いスコアを記録。汎用モデルとして公開され、ファインチューニングが推奨される。

rinnaは、LLMを活用した研究・開発を積み重ね、カスタマイズソリューション「Tamashiru Custom」を提供。今後もAIの社会実装を目指し、研究成果の公開や製品導入を進める。生成AIやカスタムLLMに関心がある方は、rinnaに問い合わせを。ソース：