Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

WEKA (Atlanta và Campbell, CA), một công ty nền tảng dữ liệu gốc AI, đã công bố giải pháp kiến trúc tham chiếu mới để đơn giản hóa quá trình phát triển và triển khai môi trường suy luận AI của doanh nghiệp. Nền tảng tham chiếu WEKA AI RAG (WARRP) cung cấp cho các nhà phát triển AI tạo sinh và kiến trúc sư đám mây bản thiết kế để phát triển một khuôn khổ cơ sở hạ tầng suy luận mạnh mẽ.

Khuôn khổ này, bao gồm công nghệ RAG, cho phép các mô hình ngôn ngữ lớn (LLM) thu thập dữ liệu mới từ các nguồn bên ngoài và cải thiện hiệu quả của quy trình suy luận AI. Theo Báo cáo xu hướng AI toàn cầu mới nhất của S&P Global Market Intelligence, AI tạo sinh là chế độ AI có tỷ lệ áp dụng doanh nghiệp cao nhất và phạm vi ứng dụng của nó vượt xa các ứng dụng AI khác.

WARRP cung cấp bản thiết kế thành phần mô-đun toàn diện để giúp các doanh nghiệp nhanh chóng xây dựng và triển khai các đường ống suy luận AI dựa trên RAG. Kiến trúc tham chiếu sử dụng phần mềm nền tảng dữ liệu WEKA® làm lớp nền tảng và tích hợp khuôn khổ AI doanh nghiệp hàng đầu của NVIDIA, khả năng điều phối khối lượng công việc AI và GPU tiên tiến của Run:ai và các công nghệ phần mềm quản lý dữ liệu thương mại và nguồn mở phổ biến.

"Làn sóng đầu tiên của các công nghệ AI tạo sinh sẽ bắt đầu được áp dụng trong các doanh nghiệp vào năm 2023, với nhiều tổ chức tập trung nguồn lực vào việc đào tạo các mô hình AI", Shimon Ben-David, chủ tịch của WEKA cho biết. "Thực hiện suy luận AI là một thách thức cực kỳ lớn và chúng tôi đang phát triển WARRP, tận dụng các giải pháp cơ sở hạ tầng đám mây và AI hàng đầu trong ngành như WEKA, NVIDIA, Run:ai, Kubernetes và Milvus".

WARRP cung cấp một khuôn khổ mô-đun linh hoạt và chứng minh khả năng mở rộng, khả năng thích ứng và hiệu suất vượt trội trong môi trường sản xuất. Phiên bản đầu tiên của kiến trúc tham chiếu này có sẵn để tải xuống miễn phí và những người tham dự Supercomputing 2024 có thể tìm hiểu thêm và xem bản demo của giải pháp mới tại gian hàng của WEKA. Để biết thêm thông tin, vui lòng truy cập https://www.weka.io/resources/reference-architecture/warrp-weka-ai-rag-reference-platform/.