ServiceNow（カリフォルニア州サンタクララ）は、Hugging Face、NVIDIAと共に、新しい大規模言語モデル「StarCoder2」をリリースした。このモデルは、619種類のプログラミング言語でトレーニングされ、コード生成やワークフロー生成などのタスクを実行する。開発者は、コード補完やコード要約などの機能を利用し、生産性の向上を図ることができる。
StarCoder2には、30億、70億、150億パラメータの3つのモデルサイズがある。ServiceNowがトレーニングした30億パラメータモデルは、オリジナルのStarCoder 150億パラメータモデルと同等の性能を持ちながら、計算コストを削減する。Hugging FaceとNVIDIAが開発に協力し、NVIDIA NeMoを使用して構築された。
Harm de Vries氏（ServiceNow）とLeandro von Werra氏（Hugging Face）は、StarCoder2がオープンな科学的コラボレーションと倫理的なデータサプライチェーンを通じた責任あるAIの実践を示すものだと強調。ジョナサン・コーエン氏（NVIDIA）は、StarCoder2がソフトウェアエコシステムにおける効率性と革新性を促進すると述べた。
StarCoder2は、text-to-codeやtext-to-workflow機能を備え、AI駆動型のコーディングアプリケーションの可能性を広げる。また、BigCodeコミュニティーは、ServiceNowのFast LLMフレームワーク、Hugging Faceのnanotronフレームワーク、NVIDIA NeMoとTensorRT-LLMソフトウェアを活用してモデルをトレーニングしている。責任あるイノベーションの育成がBigCodeの目的であり、オープンガバナンスや透明なサプライチェーンを通じて実証されている。
出典：プレスリリース
