Kimi mengumumkan Kimi K2.5, model terbaru dalam keluarga modelnya yang dirancang untuk memberikan kinerja superior di berbagai tugas yang membutuhkan performa tinggi, termasuk alur kerja AI, obrolan, inferensi, pengkodean, dan matematika. Model ini memanfaatkan kerangka kerja open-source Megatron-LM, yang meningkatkan efisiensi komputasi dan optimasi GPU untuk melatih model berbasis Transformer skala besar. Kimi K2.5 memiliki arsitektur dengan 384 expert dan satu lapisan dense, memungkinkan perutean khusus untuk berbagai modalitas dan mencapai tingkat aktivasi parameter yang mengesankan sebesar 3,2% per token.

Model Kimi K2.5 menawarkan kosakata komprehensif sekitar 164.000 token, termasuk token khusus visi, untuk mendukung fungsi visi. Model ini menggabungkan MoonViT3d Vision Tower, sebuah komponen yang mengubah gambar dan frame video menjadi informasi tersemat dan meningkatkan kemampuan pemrosesan visi. Pengembang yang tertarik menggunakan Kimi K2.5 dapat mengakses endpoint akselerasi GPU gratis untuk pembuatan prototipe melalui Program Pengembang NVIDIA. Layanan mikro NVIDIA NIM untuk inferensi di lingkungan produksi juga akan segera tersedia.

Bagi mereka yang ingin mengintegrasikan Kimi K2.5 ke dalam sistem mereka sendiri, model ini kompatibel dengan API yang dihosting NVIDIA, yang dapat diakses dengan mendaftar di Program Pengembang NVIDIA. Selain itu, model ini dapat dikustomisasi dan disempurnakan menggunakan kerangka kerja NeMo, yang menyediakan serangkaian pustaka terbuka untuk pelatihan model yang terukur dan adaptasi terhadap tugas multimodal tertentu. Pustaka NeMo AutoModel dalam kerangka kerja memungkinkan pelatihan berkinerja tinggi dan eksperimen cepat, memberikan pengembang dan peneliti alat yang fleksibel untuk memajukan proyek mereka. Untuk informasi lebih lanjut tentang kemampuan Kimi K2.5, kunjungi halaman model Hugging Face dan Kimi API Platform. Atau, Anda dapat menguji model secara langsung di platform pengembangan NVIDIA.