NVIDIA mengumumkan keluarga Nemotron 3, rangkaian model terbuka yang dirancang untuk mendukung sistem AI berbasis agen. Model-model ini, termasuk Nano, Super, dan Ultra, dirancang khusus untuk aplikasi yang membutuhkan throughput cepat, inferensi akurat, dan konsistensi pada input besar. Seri Nemotron 3 menawarkan arsitektur hybrid mixed-experts yang menggabungkan Mamba dan Transformer, pembelajaran penguatan di seluruh lingkungan interaktif, dan jendela konteks satu juta token, memungkinkan inferensi jangka panjang dengan throughput tinggi dalam aplikasi multi-agen.

Model Nemotron 3 menggabungkan lapisan Mamba untuk pemodelan urutan yang efisien, lapisan Transformer untuk inferensi presisi tinggi, dan routing MoE untuk efisiensi komputasi yang terukur. Arsitektur ini sangat cocok untuk klaster agen yang harus secara simultan melakukan tugas-tugas seperti perencanaan, inspeksi konteks, dan eksekusi alur kerja. Lebih lanjut, Nemotron 3 dilatih menggunakan pembelajaran penguatan di berbagai lingkungan yang disediakan oleh pustaka open-source, NeMo Gym, untuk menyesuaikan model agar sesuai dengan tugas agen di dunia nyata.

Komitmen NVIDIA terhadap keterbukaan terlihat jelas dalam rilis Nemotron 3 Nano saat ini. Model ini dioptimalkan untuk GPU NVIDIA dan dirancang untuk memberikan efisiensi throughput tinggi sambil mempertahankan transparansi dan kustomisasi bagi pengembang. Model Super dan Ultra yang akan datang diharapkan dapat lebih meningkatkan kedalaman dan efisiensi inferensi dengan fitur-fitur seperti MoE laten dan prediksi multi-token.

Pengembang akan memiliki akses ke berbagai sumber daya, termasuk dataset terbuka yang digunakan dalam pengembangan model, resep pra-pelatihan dan pembelajaran penguatan, serta templat konfigurasi untuk penerapan yang cepat. Pendekatan sumber terbuka NVIDIA menyediakan pengembang dengan alat dan data yang mereka butuhkan untuk melatih, menyesuaikan, dan mengevaluasi model Nemotron mereka sendiri, mendorong inovasi dan kolaborasi dalam komunitas AI.