Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

Công ty tìm kiếm và phân tích Rockset tuyên bố họ đang mở rộng khả năng tìm kiếm vectơ của mình với việc bổ sung tính năng tìm kiếm Hàng xóm gần nhất (ANN). Cải tiến này cho phép tìm kiếm nhiều tỷ điểm tương tự trên đám mây. Bản phát hành và tích hợp mới của LlamaIndex và LangChain sẽ cho phép các nhà phát triển lặp lại nhanh chóng và tạo ra trải nghiệm AI phù hợp hơn trên quy mô lớn. Thông báo này diễn ra sau vòng tài trợ trị giá 44 triệu USD gần đây của Rockset và sự hợp tác với Confluent trong lĩnh vực truyền dữ liệu cho AI.

Rockset đã giới thiệu hỗ trợ tìm kiếm vector vào đầu năm nay. Tính năng này nhanh chóng được áp dụng khi ngày càng có nhiều ứng dụng sử dụng máy học và AI để hỗ trợ nhiều tính năng khác nhau như trợ lý giọng nói, chatbot, phát hiện bất thường và công cụ đề xuất. Tuy nhiên, nhiều mô hình ngôn ngữ lớn tạo ra các vectơ nhúng với hàng nghìn chiều, khiến việc tìm kiếm lân cận gần nhất chính xác trở nên tốn kém và phức tạp về mặt tính toán. Hỗ trợ ANN mới cho phép khách hàng của Rockset tạo các phần nhúng vectơ trên bất kỳ mô hình học máy nào và lập chỉ mục cho chúng để tìm kiếm sự tương đồng nhanh chóng trên quy mô lớn.

Với tính năng mới này, các nhà phát triển có thể lưu trữ và lập chỉ mục hàng tỷ vectơ cùng với hàng trăm terabyte siêu dữ liệu như văn bản, JSON, dữ liệu địa lý, dữ liệu chuỗi thời gian, v.v. để nâng cao đáng kể trải nghiệm AI có liên quan. Nó có thể được tạo trên quy mô lớn. . Các nhà phát triển cũng có thể tận dụng sức mạnh của chỉ mục tìm kiếm với các công cụ SQL tích hợp để lọc siêu dữ liệu dễ dàng như mệnh đề WHERE của SQL. Ngoài ra, các chỉ mục được xây dựng trên RocksDB có thể được sử dụng để chèn, cập nhật và xóa vectơ cũng như siêu dữ liệu nhằm xây dựng các ứng dụng AI với các bản cập nhật theo thời gian thực. Dữ liệu mới sẽ được phản ánh trong các tìm kiếm tính bằng mili giây mà không cần lập chỉ mục lại tốn kém.

Cơ sở dữ liệu vectơ của Rockset đã được khách hàng sử dụng để triển khai các ứng dụng AI/ML trên quy mô lớn. Khả năng phân tách điện toán để tính toán cho phép lập chỉ mục và tìm kiếm riêng biệt, cho phép các ứng dụng AI tự tin mở rộng quy mô trong môi trường sản xuất.