Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

ZDEP Advance (Chuo-ku, Tokyo) và Ridge-i (Chiyoda-ku, Tokyo) đã phát triển "Local RAG Starter Box" giúp dễ dàng sử dụng các mô hình ngôn ngữ quy mô lớn (LLM) trong môi trường tại chỗ và bắt đầu chấp nhận đơn đặt hàng từ ngày 20 tháng 1 năm 2025. Theo khảo sát của Viện nghiên cứu Fuji Chimera, thị trường Generative AI trong nước dự kiến ​​sẽ đạt giá trị khoảng 1,7397 nghìn tỷ yên vào năm 2028, với nhu cầu về LLM nói riêng đang tăng lên.

LLM học thuật ngữ chuyên ngành và kiến ​​thức chuyên ngành và được sử dụng trong các lĩnh vực cụ thể, nhưng có một vấn đề với ảo giác, đó là tạo ra thông tin sai lệch. Để sử dụng công nghệ "RAG" để ngăn chặn điều này, cần có cơ sở dữ liệu chính xác và có những lo ngại về bảo mật khi sử dụng dịch vụ đám mây.

"Local RAG Starter Box", được phát triển chung bởi ZDEP Advance và Ridge-i, không yêu cầu kết nối đám mây và sử dụng dữ liệu cụ thể của người dùng để đạt được phản hồi AI có độ chính xác cao. Được trang bị GPU NVIDIA, nó tự hào có hiệu suất cao. Ngoài ra, nó được cài đặt sẵn các mô hình AI như Microsoft Phi-4 và Llama 3.1, cho phép hoạt động ngay lập tức.

Sản phẩm giảm thiểu rủi ro rò rỉ thông tin trong môi trường cục bộ an toàn và có thể triển khai trong thời gian ngắn. Hỗ trợ cũng được cung cấp thông qua phiếu hỏi đáp của Ridge-i, giúp tiết kiệm chi phí. Sản phẩm cũng có khả năng mở rộng và linh hoạt cao, giúp đưa AI vào doanh nghiệp một cách trơn tru. Để biết thêm thông tin, vui lòng truy cập trang web ZDEP Advance.