WEKA mengumumkan arsitektur referensi baru, Platform Referensi WEKA AI RAG (WARRP), di Supercomputing 2024. Platform ini dirancang untuk membantu pengembang dan arsitek menciptakan lingkungan inferensi AI yang kuat. Manfaatkan generasi augmentasi pencarian (RAG) untuk memperkaya model bahasa besar dengan data baru dari database eksternal, sehingga meningkatkan akurasi dan keandalan keluaran AI Anda.

WARRP menyediakan cetak biru modular yang komprehensif untuk membangun solusi RAG berkinerja tinggi. Ini adalah infrastruktur agnostik dan dapat berintegrasi dengan berbagai layanan cloud dan perangkat keras server. Platform ini bertujuan untuk memudahkan pengembangan jalur inferensi AI dan mengoptimalkannya untuk portabilitas beban kerja dan lingkungan multi-cloud. WEKA bekerja dengan NVIDIA, Run:ai, Kubernetes, dan Milvus untuk memastikan kerangka kerja yang kuat dan terukur.

WARRP WEKA dirancang untuk mempercepat penerapan lingkungan inferensi siap produksi. Solusi ini menyederhanakan proses penerapan aplikasi AI generatif dan memberikan fleksibilitas dan skalabilitas. Desain modular platform ini mendukung berbagai penyedia server dan cloud, memastikan portabilitas beban kerja yang mudah dan kinerja pipeline AI yang stabil.

Arsitektur Referensi WARRP kini tersedia untuk diunduh dan memberikan panduan strategis bagi organisasi untuk mengembangkan dan menerapkan sistem inferensi AI berbasis RAG. Bekerja sama dengan para pemimpin industri seperti NVIDIA dan Run:ai, solusi WEKA bertujuan untuk mengoptimalkan pemanfaatan GPU dan mendukung operasi AI di berbagai lingkungan cloud.