Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

NVIDIA đã phát hành một hướng dẫn triển khai cho thấy cách chạy AI-Q 2.0 trên Oracle Cloud Infrastructure. Kiến trúc tham chiếu kết hợp Terraform và Helm để tự động hóa việc cung cấp cơ sở hạ tầng, triển khai ứng dụng và gỡ bỏ.

Hướng dẫn này giải thích cách tạo mạng, cụm Kubernetes, bộ cân bằng tải và quản lý bí mật trên OCI trước khi triển khai các khối lượng công việc phụ trợ, giao diện người dùng và PostgreSQL của AI-Q trên Oracle Kubernetes Engine. Quá trình triển khai được thiết kế để đơn giản hóa việc cài đặt sẵn sàng cho môi trường sản xuất.

AI-Q được xây dựng trên LangChain Deep Agents và NVIDIA NeMo Agent Toolkit. Kiến trúc đa tác nhân của nó định tuyến các yêu cầu giữa các quy trình nghiên cứu đơn giản và các tác nhân lập kế hoạch chuyên sâu hơn, đồng thời cho phép thay thế các mô hình, công cụ và các thành phần RAG thông qua cấu hình.

NVIDIA cho biết bản triển khai tham chiếu này dành cho các nhà phát triển và kỹ sư nền tảng muốn triển khai các tác nhân AI tầm xa trên OCI. Công ty cũng cho biết thêm rằng khung phần mềm mã nguồn mở này hỗ trợ tùy chỉnh sâu hơn thông qua cấu hình YAML và hệ sinh thái plugin NeMo Agent Toolkit.