NVIDIA telah memperkenalkan layanan mikro NIM untuk memfasilitasi penerapan model berbasis AI di berbagai domain seperti bahasa, penglihatan, dan ucapan. Layanan mikro ini dapat diterapkan pada infrastruktur yang dipercepat NVIDIA dan menyediakan API standar untuk integrasi cepat dengan aplikasi dan kerangka kerja pengembangan AI.

Produk terbaru mereka memungkinkan terciptanya sistem pengambilan informasi multimoda berbasis model bahasa visual (VLM) yang dapat menangani kueri kompleks yang melibatkan teks, gambar, dan tabel. Sistem ini memanfaatkan LangGraph dan VLM llama-3.2-90b-vision-instruct beserta model bahasa skala besar (LLM) mistral-small-24B-instruct untuk menyediakan solusi yang efisien bagi pengembang.

Sistem pencarian multimoda menawarkan manfaat seperti pemahaman kontekstual yang lebih baik dan kemampuan untuk menghasilkan keluaran terstruktur, yang khususnya bermanfaat untuk aplikasi perusahaan yang mengutamakan konsistensi dan keandalan. Sistem ini mengintegrasikan alat seperti LangChain untuk memilih dan menggunakan alat eksternal secara dinamis guna meningkatkan akurasi ekstraksi dan interpretasi data.

Pendekatan NVIDIA terhadap pencarian informasi menekankan pentingnya keluaran terstruktur dan integrasi dengan alat eksternal. Sistem ini dirancang untuk menghasilkan respons yang konsisten dan terformat, sehingga mengurangi kebutuhan akan rekayasa perintah yang rumit. Integrasi NVIDIA NIM dengan kerangka kerja seperti LangGraph menunjukkan komitmen perusahaan untuk menyediakan alat canggih bagi pengembang guna membangun sistem pencarian informasi yang efisien dan efektif.