Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

NVIDIA đã trình bày chi tiết Kiến trúc Tham chiếu Doanh nghiệp và cấu hình nhà máy AI được thiết kế để hỗ trợ triển khai hệ thống AI tác nhân và AI tạo sinh trong môi trường tại chỗ. Công ty định vị khung này như một hướng dẫn về cơ sở hạ tầng cho các hoạt động AI có khả năng mở rộng.

Kiến trúc này tích hợp điện toán, mạng, lưu trữ, điều phối và giám sát vào các mô hình triển khai đã được xác thực được xây dựng trên Hệ thống được NVIDIA chứng nhận. NVIDIA cho biết các doanh nghiệp ngày càng yêu cầu cơ sở hạ tầng có thể dự đoán được, có khả năng hỗ trợ suy luận AI, huấn luyện mô hình và khối lượng công việc tự động hóa ở quy mô lớn.

Công ty đã giới thiệu ba cấu hình nhà máy AI: RTX PRO AI Factory, HGX AI Factory và NVL72 AI Factory. Các nền tảng này nhằm mục đích hỗ trợ các khối lượng công việc từ điện toán hình ảnh và suy luận đến huấn luyện mô hình ngôn ngữ quy mô lớn và xử lý AI quy mô rack.

NVIDIA cũng nhấn mạnh sự hợp tác với các đối tác hệ thống toàn cầu để xác thực việc triển khai trên các lớp phần cứng và phần mềm. Công ty cho biết cách tiếp cận này có thể rút ngắn chu kỳ triển khai, giảm chi phí vận hành và giúp các doanh nghiệp chuyển đổi các dự án AI từ giai đoạn thử nghiệm sang môi trường sản xuất hiệu quả hơn.