ZDEP Advance (Chuo-ku, Tokyo) dan Ridge-i (Chiyoda-ku, Tokyo) telah mengembangkan "Local RAG Starter Box" yang memudahkan penggunaan model bahasa berskala besar (LLM) di lingkungan lokal, dan mulai menerima pesanan sejak 20 Januari 2025. Menurut survei oleh Fuji Chimera Research Institute, pasar Generative AI domestik diperkirakan mencapai sekitar 1,7397 triliun yen pada tahun 2028, dengan permintaan untuk LLM khususnya yang meningkat.

LLM mempelajari terminologi industri dan pengetahuan khusus serta digunakan dalam bidang-bidang tertentu, tetapi ada masalah dengan halusinasi, yaitu munculnya informasi palsu. Untuk menggunakan teknologi "RAG" guna menekan hal ini, diperlukan basis data yang akurat, dan ada masalah keamanan saat menggunakan layanan cloud.

"Local RAG Starter Box," yang dikembangkan bersama oleh ZDEP Advance dan Ridge-i, tidak memerlukan koneksi cloud dan menggunakan data khusus pengguna untuk mencapai respons AI yang sangat akurat. Dilengkapi dengan GPU NVIDIA, perangkat ini memiliki kinerja tinggi. Selain itu, perangkat ini sudah terinstal dengan model AI seperti Microsoft Phi-4 dan Llama 3.1, yang memungkinkan pengoperasian langsung.

Produk ini meminimalkan risiko kebocoran informasi dalam lingkungan lokal yang aman dan dapat diimplementasikan dalam waktu singkat. Dukungan juga diberikan melalui tiket Tanya Jawab Ridge-i, sehingga hemat biaya. Produk ini juga sangat scalable dan fleksibel, membantu memperkenalkan AI ke dalam bisnis dengan lancar. Untuk informasi lebih lanjut, silakan kunjungi situs web ZDEP Advance.