NVIDIA memperkenalkan AgentIQ, pustaka sumber terbuka yang dirancang untuk memudahkan pembuatan aplikasi AI dengan menghubungkan dan mengoptimalkan tim agen AI. Alat inovatif ini menyediakan tutorial tentang pengembangan aplikasi dan memperkenalkan pembuatan kode AI dengan agen pengodean berbasis pengujian yang memanfaatkan LangGraph dan model inferensi untuk mendukung komputasi waktu pengujian.

Hukum penskalaan mendorong sistem AI yang lebih cerdas, terutama di bidang prapelatihan, pascapelatihan, dan inferensi. Prapelatihan model bahasa dalam skala besar menghasilkan hasil yang mengesankan, tetapi tantangannya adalah untuk menskalakan model ini lebih jauh. Agen AI otonom dan metode komputasi waktu pengujian, seperti yang digunakan dalam Deepseek-R1, telah membuat langkah besar dalam penskalaan komputasi pascapelatihan dan inferensi, yang penting untuk tugas-tugas kompleks seperti pengodean.

AgentIQ menyederhanakan penerapan metode penskalaan baru ini, yang memungkinkan organisasi untuk merancang, menguji, menyebarkan, dan mengoptimalkan aplikasi agen AI secara lebih efektif. Platform ini ditujukan untuk mendukung alur kerja pembuatan kode AI, berbeda dengan model bahasa berskala besar (LLM), yang biasanya terbatas pada antarmuka obrolan dan kurang terintegrasi dengan dunia nyata. Di sisi lain, agen AI dirancang untuk mencapai tujuan tertentu dengan berinteraksi dengan lingkungan melalui alat, memori, dan rencana untuk melakukan tugas-tugas seperti penyuntingan berkas dan eksekusi kode.

Membangun agen AI atau sistem multiagen memerlukan keseimbangan antara fleksibilitas dan struktur. AgentIQ menyediakan jalan tengah melalui rekayasa alur, tempat status dan transisi yang akan dijalankan agen atau alat dalam setiap status ditetapkan. Model inferensi dan metode pencarian sangat penting untuk menghitung waktu inferensi, dan model seperti DeepSeek-r1 menghabiskan lebih banyak waktu untuk menjelajahi jalur inferensi sebelum memberikan output.

AgentIQ mengatasi tantangan pengembangan umum seperti evaluasi, penerapan, dan pengoptimalan. Ia menyediakan ekosistem kerangka kerja agen yang komprehensif, spesifikasi umum untuk kompatibilitas proyek, rangkaian evaluasi untuk pengembangan alur kerja yang cepat, opsi penerapan bawaan, dan fitur pengoptimalan untuk mengidentifikasi hambatan dan meningkatkan kinerja. Ia juga mengintegrasikan alat observabilitas untuk pemantauan dan debugging.

Pengaturan toolkit ini memerlukan GPU NVIDIA, toolkit AgentIQ, dan kerangka kerja LangGraph. Pengembang dipandu melalui langkah-langkah untuk membuat agen pembuat kode melalui integrasi agen AI dan model inferensi. Ini termasuk menyiapkan perancah proyek, menerapkan kemampuan pembuatan kode, dan menjalankan alur kerja. Fungsionalitas CLI AgentIQ memudahkan untuk menjalankan alur kerja, memulai server, dan mengevaluasi.

Singkatnya, AgentIQ menyederhanakan pengembangan sistem agen, menyediakan toolkit yang kompatibel dengan ekosistem yang lebih luas dan dioptimalkan untuk kinerja terbaik. NVIDIA meningkatkan kemampuan Anda untuk menangani tugas-tugas dunia nyata yang kompleks dengan mengatur berbagai macam model, kerangka kerja, dan alat.