Memahami konsep grounding, embedding, dan pencarian vektor penting untuk membangun layanan Gen AI yang andal bagi perusahaan. Contoh utamanya adalah pencarian semantik dari 8 juta pertanyaan Stack Overflow yang dapat dijalankan dalam milidetik. Demo ini terbuka untuk umum dan memungkinkan pengguna memilih "STACKOVERFLOW", memasukkan pertanyaan pengkodean mereka sebagai kueri, dan melakukan pencarian teks terhadap jutaan pertanyaan yang diposting di platform. Demo ini menampilkan pencarian semantik berkemampuan LLM, berdasarkan fakta bisnis, serta skalabilitas dan kecepatan. Faktor pendukung utama dari solusi ini adalah penyematan yang dihasilkan dengan Vertex AI Embeddings for Text dan pencarian vektor yang cepat dan terukur dengan Vertex AI Vector Search. API penyematan memungkinkan Anda menerapkan penyematan ke berbagai tugas pemrosesan teks yang dikombinasikan dengan fungsionalitas LLM. Tugas-tugas ini mencakup pencarian semantik yang mendukung LLM, klasifikasi teks, rekomendasi, pengelompokan, deteksi anomali, analisis sentimen, dan banyak lagi. Semua ini dapat ditangani dengan pemahaman mendalam tentang semantik tingkat LLM. Dengan menggabungkan API Embeddings dan Pencarian Vektor, Embeddings dapat digunakan untuk "mendasarkan" keluaran LLM ke data bisnis nyata dengan latensi rendah. Selain arsitektur yang digunakan dalam demo Stack Overflow, metode grounding umum lainnya adalah memasukkan hasil pencarian vektor ke dalam LLM, yang kemudian menghasilkan teks jawaban akhir untuk pengguna. LangChain adalah alat populer untuk mengimplementasikan pipeline ini, dan Vertex AI Gen AI Embedded API serta Pencarian Vektor sempurna untuk integrasi LangChain.