Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

NVIDIA đã công bố một bộ dịch vụ vi mô NIM mới được thiết kế để giúp phát triển AI dễ dàng hơn trên PC AI RTX của NVIDIA. Hiện đang trong giai đoạn beta, các dịch vụ vi mô này cung cấp cho các nhà phát triển các mô hình AI cơ bản bao gồm nhiều khả năng, bao gồm ngôn ngữ, giọng nói, hoạt hình, tạo nội dung và tầm nhìn. API tiêu chuẩn công nghiệp được tạo ra để hợp lý hóa quá trình chuyển đổi từ thử nghiệm AI sang xây dựng các ứng dụng mạnh mẽ.

Công ty đã giải quyết những phức tạp của việc tích hợp AI trên PC bằng cách cung cấp các mô hình AI đóng gói được tối ưu hóa cho GPU NVIDIA. Các dịch vụ vi mô NIM được cung cấp dưới dạng container, cho phép các dịch vụ tự lưu trữ cho cả các mô hình AI được đào tạo trước và có thể tùy chỉnh. Chúng được xây dựng trên một công cụ suy luận được tối ưu hóa trước, đảm bảo khả năng tương thích và hiệu suất trên các nền tảng của NVIDIA, từ môi trường đám mây và trung tâm dữ liệu đến PC và máy trạm RTX AI.

GPU GeForce RTX 50 Series mới nhất của NVIDIA, hỗ trợ tính toán FP4 và cung cấp tới 32GB VRAM, được tối ưu hóa cho suy luận AI và có thể cải thiện hiệu suất lên tới 2 lần. Các dịch vụ vi mô NIM được tùy chỉnh để tận dụng các khả năng của các GPU này dựa trên kiến ​​trúc NVIDIA Blackwell. Ngoài ra, NVIDIA đã hợp tác với Microsoft để tích hợp khả năng tăng tốc CUDA vào WSL2, cho phép các nhà phát triển sử dụng bộ công cụ chứa Podman và thời gian chạy cho các dịch vụ vi mô NIM trên PC RTX AI.

Các nhà phát triển có thể truy cập vào nhiều loại dịch vụ vi mô NIM cho nhiều ứng dụng, bao gồm mô hình ngôn ngữ, tạo hình ảnh, xử lý giọng nói và thị giác máy tính. Các dịch vụ này có thể được tải xuống từ danh mục API của NVIDIA để tích hợp với các khuôn khổ khác hoặc truy cập thông qua giao diện NVIDIA RTX AI PC. NVIDIA có kế hoạch phát hành AI Blueprints với RTX AI PC để cung cấp các mẫu tham chiếu và tài liệu hướng dẫn nhằm đẩy nhanh quá trình tạo quy trình làm việc AI tiên tiến.