Integrasi kecerdasan buatan ke dalam operasi perusahaan telah mengalami transformasi besar dengan diperkenalkannya agen AI, yang memanfaatkan agen AI untuk menyederhanakan tugas-tugas berulang. Agen yang sebelumnya berbasis model bahasa besar (LLM), kini dilengkapi dengan model bahasa kecil (SLM) karena efisiensi dan efektivitas biayanya. Sebuah makalah posisi terbaru menunjukkan bahwa SLM menjadi semakin penting sebagai tulang punggung agen AI, menawarkan alternatif yang lebih ekonomis dan fleksibel daripada LLM untuk tugas-tugas tertentu.

Meskipun LLM dikenal karena kemampuannya yang luas, LLM seringkali kurang dimanfaatkan dalam agen AI yang menjalankan fungsi-fungsi yang sangat terspesialisasi. Di sisi lain, SLM dikustomisasi untuk menjalankan tugas-tugas spesifik ini dengan lebih cepat dan dengan biaya lebih rendah. Makalah ini menganjurkan terwujudnya ekosistem heterogen di mana SLM menangani tugas-tugas rutin dan LLM digunakan untuk skenario kompleks yang membutuhkan keterampilan penalaran tingkat lanjut. Pendekatan ini bukan sekadar teoretis; rangkaian produk NVIDIA, termasuk rangkaian perangkat lunak NVIDIA Nemotron dan NVIDIA NeMo, telah mendukung pengembangan sistem semacam itu.

SLM tidak hanya hemat biaya, tetapi juga berkinerja sama baiknya atau bahkan lebih baik pada tolok ukur tertentu. Misalnya, SLM berkinerja tinggi NVIDIA, Nemotron Nano 2, memberikan akurasi dan throughput yang superior dalam aplikasi AI agen. Model ringkas ini telah terbukti mampu menangani sebagian besar tugas yang dibutuhkan oleh agen AI, sehingga menepis anggapan bahwa hanya model besar yang dapat memberikan hasil yang andal.

Migrasi ke SLM menawarkan manfaat ekonomi yang signifikan, berpotensi mengurangi biaya 10 hingga 30 kali lipat dibandingkan model skala besar. SLM juga memungkinkan respons real-time dan cocok untuk penerapan cloud maupun edge. Penyempurnaannya yang fleksibel memungkinkan adaptasi dan peningkatan keterampilan yang cepat, menjadikannya ideal untuk berbagai kebutuhan organisasi.

Kesimpulannya, masa depan AI agen terletak pada sistem model heterogen di mana SLM dan LLM bekerja sama untuk mengoptimalkan efisiensi dan biaya. Pendekatan modular ini, yang konsisten dengan dekomposisi alami masalah kompleks oleh agen AI, membuka jalan bagi lingkungan otomasi perusahaan yang lebih mudah diakses dan berkelanjutan.