Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

NVIDIA đã công bố một quy trình làm việc mới nhằm cải thiện hiệu quả của các tác nhân AI trong các hệ thống doanh nghiệp. NVIDIA AI Blueprint for Building Data Flywheels được thiết kế để giảm chi phí suy luận và cải thiện latency mà không ảnh hưởng đến hiệu quả. Tận dụng các dịch vụ vi mô NVIDIA NeMo và NIM, bản thiết kế giới thiệu một chu kỳ tự cải tiến giúp tinh chỉnh các mô hình AI bằng dữ liệu hoạt động thực tế.

Data Flywheel Blueprint hứa hẹn khả năng tích hợp dễ dàng với cơ sở hạ tầng AI hiện có và hỗ trợ nhiều môi trường khác nhau, bao gồm điện toán đa đám mây, tại chỗ và biên. Phương pháp của Blueprint bao gồm thử nghiệm tự động để xác định và triển khai các mô hình hiệu quả hơn nhằm tối ưu hóa hiệu suất của các tác nhân AI.

Bản demo thực tế của bản thiết kế này được áp dụng để tối ưu hóa một nhân viên dịch vụ khách hàng ảo đã được công bố. Bản demo nêu chi tiết quy trình thay thế các mô hình AI lớn bằng các mô hình nhỏ hơn, tiết kiệm chi phí hơn, giảm chi phí suy luận hơn 98% mà không ảnh hưởng đến độ chính xác. Bản thiết kế bao gồm các bước thiết lập ban đầu, thu thập và quản lý dữ liệu, thử nghiệm mô hình và triển khai và cải tiến liên tục.

NVIDIA khuyến khích các doanh nghiệp xem xét kỹ hơn Data Flywheel Blueprint bằng cách xem video giải thích mới của chúng tôi hoặc tải xuống bản thiết kế từ danh mục API của NVIDIA. Nỗ lực này được thiết kế để hợp lý hóa quy trình tinh chỉnh mô hình AI, cho phép các doanh nghiệp duy trì các tác nhân AI hiệu suất cao trong khi vẫn quản lý hiệu quả chi phí và tài nguyên.