Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

Kioxia (Tokyo) đã công bố phiên bản mã nguồn mở của công nghệ ANNS lưu trữ hoàn toàn mới và định lượng nhân (AiSAQ). Phần mềm AiSAQ™ của công ty sử dụng thuật toán ANNS mới được tối ưu hóa cho SSD để cung cấp hiệu suất có thể mở rộng cho thế hệ tăng cường tìm kiếm (RAG), cho phép thực hiện tìm kiếm trực tiếp trên SSD mà không cần đặt dữ liệu chỉ mục vào DRAM.

Hệ thống Generative AI đòi hỏi tài nguyên tính toán, bộ nhớ và lưu trữ khổng lồ. RAG là một giai đoạn quan trọng của AI, sử dụng dữ liệu cụ thể của doanh nghiệp và ứng dụng để tạo điều kiện tối ưu hóa các mô hình ngôn ngữ lớn (LLM). Cơ sở dữ liệu vectơ, thành phần cốt lõi của RAG, tích lũy dữ liệu cụ thể và chuyển đổi thành các vectơ đặc trưng trong cơ sở dữ liệu. Nó cũng sử dụng thuật toán ANNS để xác định các vectơ hữu ích cho việc cải thiện mô hình dựa trên sự tương đồng giữa các vectơ tích lũy và vectơ mục tiêu.

Công nghệ AiSAQ của KIOXIA cung cấp giải pháp ANNS có khả năng mở rộng và hiệu quả với mức sử dụng bộ nhớ gần bằng không và khả năng chuyển đổi chỉ mục nhanh cho các tập dữ liệu quy mô hàng tỷ. Ưu điểm chính của công nghệ này là có thể vận hành các cơ sở dữ liệu lớn mà không cần dựa vào tài nguyên DRAM hạn chế, cải thiện hiệu suất của các hệ thống RAG. Vì không cần phải tải dữ liệu chỉ mục vào DRAM và cơ sở dữ liệu vector có thể được khởi động ngay lập tức, nên nó hỗ trợ chuyển đổi mượt mà giữa các cơ sở dữ liệu dành riêng cho người dùng và ứng dụng trên cùng một máy chủ, cho phép cung cấp dịch vụ RAG hiệu quả.

Kioxia chứng minh cam kết thúc đẩy sự phát triển của AI bằng cách cung cấp công nghệ KIOXIA AiSAQ cho cộng đồng dưới dạng phần mềm mã nguồn mở. Để tìm hiểu thêm về công nghệ, vui lòng kiểm tra phiên bản mã nguồn mở tại liên kết sau: <a href="https://github.com/kioxiaamerica/aisaq-diskann">github "></a> github</a>