NVIDIA mengumumkan rangkaian layanan mikro baru yang dirancang untuk mendukung agen AI visual di berbagai industri. Didukung oleh Vision Language Models (VLM), agen ini dapat memahami perintah bahasa alami dan menjawab pertanyaan visual, sehingga sangat menyederhanakan proses pengembangan aplikasi. Teknologi ini memungkinkan kesadaran yang lebih luas dan pemahaman kontekstual, memungkinkan berbagai kemampuan transformatif seperti ringkasan gambar dan video, tanya jawab visual interaktif, dan pembuatan peringatan visual.

Agen AI visual ini diharapkan dapat ditempatkan di berbagai lokasi, termasuk pabrik, gudang, toko ritel, bandara, dan persimpangan. Dengan mengaktifkan interaksi alami, agen-agen ini bertujuan untuk membantu tim operasi membuat keputusan yang tepat melalui wawasan yang lebih kaya. Layanan mikro NVIDIA, seperti NVIDIA NIM dan NVIDIA VIA, dirancang untuk mempercepat pembuatan agen ini, memberikan alat kepada pengembang untuk dengan mudah membangun dan menyesuaikan aplikasi.

NVIDIA VIA Microservices, perpanjangan dari NVIDIA Metropolis Microservices, kini tersedia untuk diunduh pengembang sebagai pratinjau. Layanan mikro ini bersifat cloud-native dan dapat diterapkan di berbagai lingkungan, baik di edge maupun di cloud. Ini menawarkan arsitektur modular dan dukungan untuk model yang dapat disesuaikan, dan mengakomodasi rekaman video dan streaming langsung. Integrasi NVIDIA VIA dan NVIDIA NIM memungkinkan Anda menggunakan berbagai model LLM atau VLM dari katalog API NVIDIA, dengan model OpenAI GPT-4o berfungsi sebagai VLM default.

Layanan mikro juga mengatasi tantangan dalam meringkas video panjang dengan memecahnya menjadi segmen yang lebih kecil dan menganalisisnya satu per satu. Pendekatan ini memastikan bahwa tindakan dikenali secara akurat tanpa kehilangan detail. Fitur ringkasan NVIDIA VIA dioptimalkan untuk skalabilitas di beberapa GPU dan dapat memproses file video dan streaming langsung secara efisien. Modul Context-Aware RAG (CA-RAG) semakin menyempurnakan peringkasan dengan mengekstraksi dan menggabungkan informasi berguna dari potongan video.

Produk terbaru NVIDIA menunjukkan komitmen perusahaan untuk memajukan teknologi AI visual dan menyediakan sumber daya bagi pengembang untuk berinovasi dan menyesuaikan solusi untuk berbagai kasus penggunaan. Layanan mikro ini, yang berpotensi diterapkan pada berbagai platform GPU NVIDIA, menyederhanakan pengembangan dan integrasi agen AI visual ke dalam sistem yang ada, membuka jalan bagi aplikasi yang lebih interaktif dan berwawasan luas.