Perusahaan pencarian dan analitik Rockset mengumumkan perluasan kemampuan pencarian vektornya dengan penambahan pencarian Approximate Nearest Neighbor (ANN). Peningkatan ini memungkinkan pencarian kesamaan multi-miliar di cloud. Rilis baru dan integrasi LlamaIndex dan LangChain akan memungkinkan pengembang untuk melakukan iterasi dengan cepat dan menciptakan pengalaman AI yang lebih relevan dalam skala besar. Pengumuman ini menyusul putaran pendanaan Rockset senilai $44 juta baru-baru ini dan kemitraan dengan Confluent dalam streaming data untuk AI.

Rockset memperkenalkan dukungan pencarian vektor awal tahun ini. Fitur ini dengan cepat diadopsi karena semakin banyak aplikasi yang menggunakan pembelajaran mesin dan AI untuk mendukung berbagai fitur seperti asisten suara, chatbot, deteksi anomali, dan mesin rekomendasi. Namun, banyak model bahasa besar menghasilkan penyematan vektor dengan ribuan dimensi, membuat pencarian tetangga terdekat yang akurat menjadi mahal dan rumit secara komputasi. Dukungan ANN baru memungkinkan pelanggan Rockset membuat penyematan vektor pada model pembelajaran mesin apa pun dan mengindeksnya untuk pencarian kesamaan cepat dalam skala besar.

Dengan fitur baru ini, pengembang dapat menyimpan dan mengindeks miliaran vektor serta ratusan terabyte metadata seperti teks, JSON, data geografis, data deret waktu, dan banyak lagi untuk meningkatkan pengalaman AI yang relevan . Pengembang juga dapat memanfaatkan kekuatan indeks pencarian dengan mesin SQL terintegrasi untuk memfilter metadata semudah klausa SQL WHERE. Selain itu, indeks yang dibangun di RocksDB dapat digunakan untuk menyisipkan, memperbarui, dan menghapus vektor dan metadata untuk membangun aplikasi AI dengan pembaruan waktu nyata. Data baru akan ditampilkan dalam penelusuran dalam hitungan milidetik, tanpa perlu pengindeksan ulang yang mahal.

Basis data vektor Rockset telah digunakan oleh pelanggan untuk menerapkan aplikasi AI/ML dalam skala besar. Pemisahan komputasi-ke-komputasi memungkinkan pengindeksan dan pencarian terpisah, memungkinkan aplikasi AI melakukan penskalaan dengan percaya diri di lingkungan produksi.