Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

WEKA công bố kế hoạch chi tiết suy luận AI tại Siêu máy tính 2024
Generatived
24/11/21 4:30
WEKA, một công ty nền tảng dữ liệu có nguồn gốc từ AI, đã công bố các giải pháp kiến trúc tham chiếu mới tại Supercomputing 2024 ở Atlanta và Campbell, California. Nền tảng tham chiếu WEKA AI RAG (WARRP) nhằm đơn giản hóa và hợp lý hóa việc phát triển và triển khai môi trường suy luận AI của doanh nghiệp. Giải pháp này tạo ra một khung cơ sở hạ tầng mạnh mẽ bằng cách sử dụng tính năng tạo tăng cường tìm kiếm (RAG), một kỹ thuật nâng cao các mô hình ngôn ngữ lớn (LLM) bằng cách cho phép thu thập dữ liệu mới từ các nguồn bên ngoài, cung cấp cho các nhà phát triển và kiến trúc sư đám mây một kế hoạch chi tiết cho.
Theo một nghiên cứu gần đây của S&P Global Market Intelligence, AI sáng tạo (GenAI) đã vượt qua các ứng dụng khác để trở thành phương thức AI được sử dụng rộng rãi nhất trong các doanh nghiệp. Thách thức đối với các công ty triển khai LLM là nắm bắt và bối cảnh hóa dữ liệu mới một cách hiệu quả từ các môi trường khác nhau để có thể hỗ trợ suy luận AI. RAG là một kỹ thuật quan trọng trong suy luận AI giúp giảm ảo giác trong các mô hình AI và cải thiện độ chính xác cũng như độ tin cậy của kết quả đầu ra. Tuy nhiên, việc xây dựng một môi trường sản xuất hỗ trợ khung RAG trên quy mô lớn rất phức tạp do các kiến trúc và công cụ phát triển nhanh chóng.
WARRP cung cấp bản thiết kế toàn diện về các thành phần mô-đun để nhanh chóng phát triển và triển khai các môi trường suy luận AI đẳng cấp thế giới. Nó dựa trên phần mềm Nền tảng dữ liệu WEKA® và tích hợp các khung AI dành cho doanh nghiệp của NVIDIA, bao gồm các vi dịch vụ NVIDIA NIM™ và NVIDIA NeMo™ Retriever. Nền tảng này cũng có khối lượng công việc AI tiên tiến và khả năng điều phối GPU của Run:ai cũng như các công nghệ quản lý dữ liệu phổ biến như Kubernetes và Milvus Vector DB.
Shimon Ben-David, Giám đốc Công nghệ tại WEKA, nhấn mạnh tầm quan trọng của việc hợp lý hóa quy trình triển khai RAG để cải thiện độ chính xác, bảo mật và hiệu quả chi phí khi vận hành các mô hình AI doanh nghiệp. WARRP cung cấp một khung linh hoạt hỗ trợ nhiều triển khai LLM khác nhau, cung cấp khả năng mở rộng, khả năng thích ứng và hiệu suất vượt trội trong môi trường sản xuất. Phiên bản đầu tiên của kiến trúc tham chiếu WARRP hiện có sẵn để tải xuống và những người tham dự Siêu máy tính 2024 có thể ghé thăm gian hàng của WEKA để tìm hiểu thêm và xem bản demo.
Chia sẻ bài viết này:
Tin tức mới nhất
Microsoft 365 Copilot Chat tăng cường tính linh hoạt cho các khoản đầu tư AI
25/2/14 4:45
Khi các công ty đang vật lộn với thách thức xác định lợi tức đầu tư vào AI, một thị trường phát triển nhanh chóng đang làm tăng thêm sự phức tạp cho việc ra quyết định.
Google Chat giới thiệu tính năng đặt tên nhóm thân thiện với người dùng
25/2/14 4:45
Google Chat đã giới thiệu một tính năng mới cho phép người dùng đặt tên cho tin nhắn trực tiếp theo nhóm.
GeForce NOW bổ sung Batman Series và Civilization VII
25/2/14 4:45
GeForce NOW đã hợp tác với Warner Bros. Games để mang loạt game được đánh giá cao Batman: Arkham đến với những người đam mê trò chơi điện toán đám mây.
Copyright © 2024 Generatived - All right Reserved.
Chia sẻ bài viết này:
Chia sẻ bài viết này:
Danh mục
Tin tức
AI và luật/hệ thống/kinh tế/xã hội
Generatived là dịch vụ cung cấp thông tin và xu hướng chuyên về Generative AI. Chúng tôi sẽ cố gắng hết sức để cung cấp thông tin về thế giới đang thay đổi nhanh chóng.
Tin tức mới nhất
Microsoft 365 Copilot Chat tăng cường tính linh hoạt cho các khoản đầu tư AI
25/2/14 4:45
Khi các công ty đang vật lộn với thách thức xác định lợi tức đầu tư vào AI, một thị trường phát triển nhanh chóng đang làm tăng thêm sự phức tạp cho việc ra quyết định.
Google Chat giới thiệu tính năng đặt tên nhóm thân thiện với người dùng
25/2/14 4:45
Google Chat đã giới thiệu một tính năng mới cho phép người dùng đặt tên cho tin nhắn trực tiếp theo nhóm.
GeForce NOW bổ sung Batman Series và Civilization VII
25/2/14 4:45
GeForce NOW đã hợp tác với Warner Bros. Games để mang loạt game được đánh giá cao Batman: Arkham đến với những người đam mê trò chơi điện toán đám mây.