NVIDIA mengumumkan NVIDIA NeMo™ Retriever, layanan mikro AI generatif yang memungkinkan perusahaan menghubungkan model bahasa kustom berskala besar ke data mereka. Hal ini akan meningkatkan akurasi respons aplikasi AI. Penambahan baru pada rangkaian alat dan kerangka kerja NVIDIA NeMo membantu organisasi meningkatkan aplikasi AI yang mereka hasilkan dengan kemampuan retrieval-augmented generation (RAG) tingkat perusahaan. Sebagai layanan mikro pencarian semantik, NeMo Retriever meningkatkan akurasi aplikasi AI yang dihasilkan melalui algoritma yang dioptimalkan NVIDIA.

Pengembang dapat menggunakan layanan mikro untuk menghubungkan aplikasi AI ke data bisnis terlepas dari lokasi cloud atau pusat data. NeMo Retriever adalah komponen platform perangkat lunak NVIDIA AI Enterprise yang menambahkan kemampuan RAG yang dioptimalkan NVIDIA ke AI Foundry dan dapat diakses di AWS Marketplace. Beberapa pionir, termasuk Cadence, Dropbox, SAP, dan ServiceNow, berkolaborasi dengan NVIDIA untuk menanamkan kemampuan RAG siap produksi ke dalam aplikasi dan layanan AI yang dibuat khusus.

Berbeda dengan toolkit RAG open source, NeMo Retriever mendukung AI generatif siap produksi dengan model yang layak secara komersial, stabilitas API, patch keamanan, dan dukungan perusahaan. Model tertanam layanan mikro memanfaatkan algoritme yang dioptimalkan NVIDIA untuk memberikan hasil akurasi tertinggi. Model penyematan yang dioptimalkan ini menangkap hubungan antar kata, memungkinkan model bahasa berskala besar untuk memproses dan menganalisis data teks.

NeMo Retriever memungkinkan bisnis menghubungkan model bahasa besar ke berbagai sumber data dan basis pengetahuan. Hal ini memungkinkan pengguna untuk berinteraksi dengan data menggunakan perintah percakapan sederhana dan menerima jawaban yang akurat dan terkini. Perusahaan yang menggunakan aplikasi yang didukung Retriever dapat memungkinkan pengguna mengakses informasi dengan aman di berbagai format data, termasuk teks, PDF, gambar, dan video. NeMo Retriever memungkinkan perusahaan mencapai hasil yang lebih akurat dengan lebih sedikit pelatihan, mengurangi waktu pemasaran, dan mendorong efisiensi energi dalam pengembangan aplikasi AI generatif.