NVIDIA mengumumkan peningkatan pada platform inferensi Dynamo yang bertujuan untuk meningkatkan dukungan bagi alur kerja AI berbasis agen di berbagai sistem seperti Claude Code, Codex, dan OpenClaw. Perusahaan tersebut mengatakan bahwa pembaruan ini berfokus pada akurasi parser, perilaku streaming, dan penanganan API yang kompatibel dengan Anthropic untuk interaksi kompleks yang digerakkan oleh alat.

Menurut pengumuman tersebut, Dynamo kini mendukung penalaran dan penguraian panggilan alat yang lebih baik, memungkinkan segmen penalaran yang saling terkait dan eksekusi alat terstruktur tetap sinkron di seluruh giliran. Platform ini juga memperkenalkan optimasi stabilitas prompt yang mengembalikan penggunaan kembali cache KV dengan menghapus header khusus sesi yang tidak stabil sebelum tokenisasi.

Perusahaan menyatakan bahwa peningkatan streaming kini memungkinkan peristiwa eksekusi alat untuk dikirim sebelum selesainya respons model secara keseluruhan. Perubahan ini dilaporkan mengurangi kompleksitas penguraian di sisi perangkat dan meningkatkan responsivitas untuk beban kerja pengkodean dan otomatisasi yang bergantung pada perilaku agen secara real-time.

NVIDIA juga mencatat bahwa protokol, parser, dan tokenizer Dynamo yang dapat digunakan kembali sedang diekstraksi menjadi komponen mandiri untuk mendukung tumpukan penyajian agen kustom. Pengembangan di Future diharapkan akan fokus pada sistem otonom yang berjalan lama dan fitur orkestrasi canggih untuk penerapan AI perusahaan.