Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

WEKA đã công bố kiến ​​trúc tham chiếu mới, Nền tảng tham chiếu WEKA AI RAG (WARRP), tại Siêu máy tính 2024. Nền tảng này được thiết kế để giúp các nhà phát triển và kiến ​​trúc sư tạo ra môi trường suy luận AI mạnh mẽ. Tận dụng tính năng tạo tăng cường tìm kiếm (RAG) để làm phong phú các mô hình ngôn ngữ lớn bằng dữ liệu mới từ cơ sở dữ liệu bên ngoài, cải thiện độ chính xác và độ tin cậy của kết quả đầu ra AI của bạn.

WARRP cung cấp một bản thiết kế mô-đun toàn diện để xây dựng các giải pháp RAG hiệu suất cao. Đó là cơ sở hạ tầng bất khả tri và có thể tích hợp với nhiều dịch vụ đám mây và phần cứng máy chủ. Nền tảng này nhằm mục đích tạo điều kiện thuận lợi cho việc phát triển các quy trình suy luận AI và tối ưu hóa chúng cho khả năng di chuyển của khối lượng công việc và môi trường nhiều đám mây. WEKA hợp tác với NVIDIA, Run:ai, Kubernetes và Milvus để đảm bảo một khuôn khổ mạnh mẽ và có thể mở rộng.

WARRP của WEKA được thiết kế để đẩy nhanh việc triển khai các môi trường suy luận sẵn sàng cho sản xuất. Giải pháp này đơn giản hóa quá trình triển khai các ứng dụng AI tổng quát và mang lại tính linh hoạt cũng như khả năng mở rộng. Thiết kế mô-đun của nền tảng hỗ trợ nhiều nhà cung cấp máy chủ và đám mây, đảm bảo khả năng di chuyển khối lượng công việc dễ dàng và hiệu suất đường truyền AI ổn định.

Kiến trúc tham chiếu WARRP hiện có sẵn để tải xuống và cung cấp cho các tổ chức hướng dẫn chiến lược để phát triển và triển khai hệ thống suy luận AI dựa trên RAG. Phối hợp với các công ty hàng đầu trong ngành như NVIDIA và Run:ai, các giải pháp của WEKA nhằm mục đích tối ưu hóa việc sử dụng GPU và hỗ trợ hoạt động của AI trong các môi trường đám mây khác nhau.