Perusahaan konstruksi memori AI Chroma baru-baru ini mengungkapkan bahwa database open source-nya digunakan di lebih dari 1 juta komputer pada bulan Oktober. Sejak dirilis pada bulan Februari, Chroma telah diunduh lebih dari 3,5 juta kali dan mendapatkan 9.000 bintang GitHub. Ini juga merupakan bagian dari lebih dari 10.000 proyek publik di GitHub. Antarmuka perusahaan yang ramah pengguna, komunitas pengembang sumber terbuka yang aktif, integrasi ekstensif, dan fokus pada aplikasi AI menjadikannya pilihan populer di kalangan pengembang di seluruh dunia.

Munculnya LLM tujuan umum telah membuka jalan bagi tumpukan perangkat lunak baru, sehingga memungkinkan terciptanya aplikasi AI yang praktis. Dalam tumpukan baru ini, lapisan logika aplikasi menggunakan LLM yang diprogram dalam bahasa alami, memberikan fleksibilitas penuh untuk melakukan tugas dan merespons pertanyaan. Mendukung lapisan logika AI memerlukan pendekatan yang benar-benar baru pada lapisan data yang menangani penyimpanan, memori, dan status.

Peran utama lapisan data adalah mengambil informasi terkait kueri atau tugas pengguna dengan fleksibilitas yang sama seperti LLM. Ini termasuk menyimpan dan mengambil data berdasarkan makna semantiknya serta isinya. Hal ini dicapai melalui database vektor yang saat ini disediakan oleh produk open source Chroma. Namun, lapisan data juga harus menyediakan alat bagi pengembang seperti menyematkan pemilihan model, pengelompokan data, dan sinyal tentang relevansi data yang tersedia. Ini perlu menjadi sistem pencarian komprehensif yang dirancang khusus untuk AI.

Platform cloud Chroma memungkinkan pengembang untuk mengakses kemampuan Chroma dengan cara yang sepenuhnya tanpa server dan dapat diskalakan secara elastis menggunakan API sederhana yang sama dengan yang mereka kenal.