Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

NVIDIA đã giới thiệu Nemotron 3 Ultra, một mô hình suy luận quy mô lớn được thiết kế cho các tác nhân AI hoạt động trong thời gian dài. Phiên bản này tập trung vào việc cải thiện hiệu quả điều phối đồng thời giảm chi phí vận hành.

Mô hình sử dụng kiến ​​trúc Mixture-of-Experts với 550 tỷ tham số và nhắm đến các khối lượng công việc đòi hỏi cao như lập kế hoạch, lập trình, nghiên cứu và phối hợp đa tác nhân. Thông lượng suy luận cao hơn dự kiến ​​sẽ đẩy nhanh tiến độ hoàn thành nhiệm vụ.

Một số cải tiến kiến ​​trúc đã được bao gồm, chẳng hạn như Hybrid Mamba Transformer, LatentMoE, dự đoán đa token và Multi-Teacher On-Policy Distillation. Các tính năng này nhằm mục đích cải thiện chất lượng suy luận và hiệu suất trong ngữ cảnh dài.

Các bản phát hành bổ sung bao gồm Nemotron 3.5 ASR để nhận dạng giọng nói đa ngôn ngữ và Nemotron 3.5 Content Safety để thực thi chính sách. Công ty cũng mở rộng quyền truy cập mở vào trọng số mô hình, tập dữ liệu và công thức huấn luyện để doanh nghiệp và nhà phát triển áp dụng.