NVIDIA meningkatkan kemampuan agen AI dengan memperkenalkan keluarga model terbuka Nemotron. Model ini dirancang untuk memberi agen AI kemampuan penalaran tingkat lanjut, yang memungkinkan mereka membuat keputusan otonom dalam lingkungan yang kompleks. Model Nemotron dioptimalkan untuk akurasi dan efisiensi, sehingga cocok untuk berbagai platform komputasi yang dipercepat.

Pengembangan model Nemotron dimulai dengan model dasar yang kuat, lalu menyempurnakannya secara berulang menggunakan teknik seperti pencarian arsitektur neural, penyulingan pengetahuan, penyempurnaan terbimbing, dan pembelajaran penguatan. Langkah-langkah ini bertujuan untuk meningkatkan kemampuan inferensi dan efisiensi komputasi model. Hasilnya, model Nemotron mencapai akurasi terdepan di industri dan hasil tinggi sekaligus mengurangi total biaya kepemilikan (TCO), yang merupakan manfaat besar terutama untuk aplikasi perusahaan.

NVIDIA mengumumkan bahwa mereka tengah bekerja sama dengan pengembang model AI di seluruh Eropa untuk mengoptimalkan model mereka menggunakan kerangka kerja Nemotron. Selain itu, model-model ini akan tersedia sebagai layanan mikro inferensi NVIDIA NIM, yang menyediakan inferensi AI yang dapat diskalakan dengan throughput tinggi dan latency rendah, sehingga cocok untuk digunakan di berbagai lingkungan.

Keluarga Nemotron mencakup beberapa model khusus, termasuk Mistral-Nemotron untuk aplikasi khusus, Llama Nemotron untuk inferensi dan pemanggilan alat, dan Nemotron-CORTEXA untuk tugas rekayasa perangkat lunak. NVIDIA juga menerbitkan kumpulan data sumber terbuka untuk melatih model-model ini, yang telah mendapatkan popularitas di papan peringkat Hugging Face. Pengguna dapat mengakses layanan NIM Mistral-Nemotron dan model serta kumpulan data Llama Nemotron lainnya langsung dari peramban mereka atau melalui Hugging Face.