NVIDIA Research telah membuat kemajuan signifikan dalam mengembangkan pendekatan inovatif untuk desain agen, dengan fokus pada penggunaan model "orkestrator". Orkestrator ini bertindak sebagai pengawas, mengelola model dan alat lain untuk mencapai tujuan yang ditentukan pengguna: kecepatan, efektivitas biaya, dan akurasi. Hebatnya, bahkan model kecil, jika disetel dengan tepat, telah terbukti mampu menjalankan peran pengawasan ini meskipun ukurannya terbatas.

Efektivitas orkestrator ditunjukkan melalui pengenalan ToolOrchestra, sebuah metodologi yang mencakup persiapan data, pembuatan data sintetis, dan pembelajaran penguatan multi-objektif. Pendekatan ini memberikan penghargaan kepada orkestrator atas penyelesaian masalah yang akurat dan efisien. Dalam pengujian di dunia nyata, Orchestrator-8B NVIDIA mengungguli model yang lebih besar dalam hal biaya dan latency pemecahan masalah, yang menunjukkan efisiensinya dengan meningkatkan latency kerja orkestrator.

Melatih orkestrator menggunakan metode ToolOrchestra membutuhkan model, data, dan kode pelatihan yang disediakan. Proses NVIDIA menghasilkan masalah dan prompt sintetis, memungkinkan terciptanya orkestrator yang efektif dengan data minimal. Proses pelatihan didukung oleh pencatatan langsung, yang memungkinkan pengembang untuk memvisualisasikan progres.

Konsep orkestrasi mentransformasi cara agen dirancang, mengotomatiskan keseimbangan antara kapabilitas dan biaya. Orchestrator-8B dari NVIDIA adalah contoh yang baik tentang bagaimana pendekatan strategis dapat menghemat sumber daya sekaligus mengungguli metode tradisional. Kemajuan ini menandakan pergeseran menuju sistem AI yang kompleks, menantang paradigma model dasar yang besar saat ini, dan membuka jalan bagi solusi AI yang lebih efisien dan skalabel.