Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

NVIDIA đã công bố một kiến ​​trúc tham chiếu mới, NVIDIA AI Blueprint, để giúp xây dựng các mô hình AI hiệu quả hơn. Blueprint tận dụng dịch vụ vi mô NVIDIA NeMo để liên tục tinh chỉnh các mô hình ngôn ngữ lớn (LLM) thành các phiên bản nhỏ hơn, tiết kiệm chi phí hơn mà không ảnh hưởng đến độ chính xác. Quy trình này dựa trên dữ liệu tương tác trong thế giới thực từ các tác nhân AI và tự động tìm kiếm các mô hình đầy hứa hẹn phù hợp để sản xuất.

NVIDIA AI Blueprint được thiết kế để đơn giản hóa việc mở rộng quy mô các ứng dụng thông minh bằng cách tự động hóa đánh giá, quản lý dữ liệu và tinh chỉnh quy trình làm việc. Nó tận dụng dịch vụ Flywheel Orchestrator để quản lý tính phức tạp của nhiều mô hình chuyên biệt, hợp lý hóa quy trình xác định và thúc đẩy các mô hình hiệu quả phù hợp với nhiều tác vụ khác nhau. Thử nghiệm có cấu trúc của Blueprint giúp giảm latency và chi phí suy luận trong khi vẫn duy trì độ chính xác của mô hình.

Blueprint của NVIDIA cũng cung cấp một ứng dụng thực tế để gọi công cụ tác nhân, một chức năng quan trọng đối với các tác nhân AI tương tác với các hệ thống bên ngoài. NVIDIA đã chứng minh rằng việc áp dụng Blueprint vào trường hợp sử dụng này có thể giảm đáng kể chi phí vận hành trong khi vẫn duy trì độ chính xác cao. Các chu kỳ đánh giá và tinh chỉnh tự động của Blueprint cho phép cải tiến liên tục dựa trên tương tác của khách hàng.

Đối với các nhà phát triển quan tâm đến việc áp dụng NVIDIA AI Blueprint, công ty cung cấp sổ tay demo và hướng dẫn thiết lập chi tiết. NVIDIA cũng thông báo rằng họ sẽ tổ chức một hội thảo trực tuyến vào ngày 18 tháng 6 và một phiên hỏi đáp vào ngày 26 tháng 6. Trong các hội thảo trực tuyến này, các chuyên gia sẽ giải thích về khả năng của Blueprint và cách triển khai nó trong nhiều quy trình làm việc AI dựa trên tác nhân khác nhau.