ServiceNow (Santa Clara, California), bersama dengan Hugging Face dan NVIDIA, telah merilis model bahasa berskala besar baru, StarCoder2. Model ini dilatih dalam 619 bahasa pemrograman yang berbeda untuk melakukan tugas-tugas seperti pembuatan kode dan pembuatan alur kerja. Pengembang dapat menggunakan fitur seperti penyelesaian kode dan ringkasan kode untuk meningkatkan produktivitas.

StarCoder2 memiliki tiga ukuran model: 3 miliar, 7 miliar, dan 15 miliar parameter. Model parameter 3 miliar yang dilatih oleh ServiceNow memiliki kinerja yang sebanding dengan model parameter StarCoder 15 miliar asli sekaligus mengurangi biaya komputasi. Dikembangkan oleh Hugging Face dan NVIDIA dan dibuat menggunakan NVIDIA NeMo.

Harm de Vries (ServiceNow) dan Leandro von Werra (Hugging Face) menekankan bahwa StarCoder2 menunjukkan praktik AI yang bertanggung jawab melalui kolaborasi ilmiah terbuka dan rantai pasokan data yang etis. Jonathan Cohen (NVIDIA) mengatakan StarCoder2 akan mendorong efisiensi dan inovasi dalam ekosistem perangkat lunak.

StarCoder2 menghadirkan kemampuan text-to-code dan text-to-workflow, memperluas kemungkinan aplikasi pengkodean berbasis AI. Komunitas BigCode juga memanfaatkan kerangka Fast LLM ServiceNow, kerangka nanotron Hugging Face, dan perangkat lunak NVIDIA NeMo dan TensorRT-LLM untuk melatih model. Mendorong inovasi yang bertanggung jawab adalah tujuan BigCode, yang ditunjukkan melalui tata kelola yang terbuka dan rantai pasokan yang transparan.