Kioxia (Tokyo) telah mengumumkan versi sumber terbuka dari teknologi ANNS yang sepenuhnya dapat disimpan dan teknologi kuantifikasi perkalian (AiSAQ) yang baru. Perangkat lunak AiSAQ™ milik perusahaan tersebut menggunakan algoritma ANNS baru yang dioptimalkan untuk SSD guna memberikan kinerja yang dapat diskalakan untuk pembangkitan augmentasi pencarian (RAG), yang memungkinkan pencarian dilakukan langsung pada SSD tanpa menempatkan data indeks dalam DRAM.

Sistem Generative AI memerlukan sumber daya komputasi, memori, dan penyimpanan yang besar. RAG merupakan tahap penting AI, yang menggunakan data khusus perusahaan dan aplikasi untuk memfasilitasi pengoptimalan model bahasa besar (LLM). Basis data vektor, elemen inti RAG, mengumpulkan data spesifik dan mengubahnya menjadi vektor fitur dalam basis data. Basis data ini juga menggunakan algoritme ANNS untuk mengidentifikasi vektor yang berguna untuk meningkatkan model berdasarkan kesamaan antara vektor yang terakumulasi dan vektor target.

Teknologi AiSAQ dari KIOXIA menyediakan solusi ANNS yang dapat diskalakan dan efisien dengan penggunaan memori mendekati nol dan kemampuan peralihan indeks yang cepat untuk kumpulan data berskala miliaran. Keunggulan utama teknologi ini adalah dapat mengoperasikan basis data besar tanpa bergantung pada sumber daya DRAM yang terbatas, sehingga meningkatkan kinerja sistem RAG. Karena tidak perlu memuat data indeks ke dalam DRAM dan basis data vektor dapat dimulai secara instan, teknologi ini mendukung peralihan yang lancar antara basis data khusus pengguna dan khusus aplikasi pada server yang sama, sehingga memungkinkan pengiriman layanan RAG yang efisien.

Kioxia menunjukkan komitmennya untuk memajukan pengembangan AI dengan menyediakan teknologi KIOXIA AiSAQ kepada masyarakat sebagai perangkat lunak kode terbuka. Untuk mempelajari lebih lanjut tentang teknologi ini, silakan periksa versi kode terbuka di tautan berikut: <a href="https://github.com/kioxiaamerica/aisaq-diskann">github "></a> github</a>