Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo
NVIDIA ra mắt mô hình lượng tử hóa Nemotron Ultra NVFP4.
Generatived
9:00 29/6/26
NVIDIA đã công bố bản cập nhật NVFP4 cho mẫu Nemotron 3 Ultra với 550 tham số, được thiết kế để cải thiện thông lượng suy luận trong khi vẫn duy trì độ chính xác gần với phiên bản BF16 gốc và giảm đáng kể yêu cầu về bộ nhớ.
Công ty cho biết điểm kiểm tra được tạo ra bằng NVIDIA Model Optimizer sử dụng các kỹ thuật bao gồm tỷ lệ Four-over-Six và AutoQuantize. Mô hình tự động chạy dưới dạng W4A4 trên GPU Blackwell và W4A16 trên phần cứng Hopper.
Quy trình này cũng hỗ trợ lượng tử hóa phân tán với Megatron-LM, giúp giảm thời gian hiệu chỉnh trên các triển khai đa GPU. Các nhà phát triển có thể tùy chỉnh hành vi lượng tử hóa thông qua các công thức YAML hoặc các thiết lập cấu hình có sẵn cho các nhu cầu triển khai khác nhau.
NVIDIA cho biết thêm rằng quy trình lượng tử hóa, các công thức mã nguồn mở, báo cáo kỹ thuật và điểm kiểm tra NVFP4 đều có sẵn trên GitHub và Hugging Face, cho phép các nhà phát triển áp dụng quy trình tương tự cho các mô hình ngôn ngữ lớn của riêng họ.
Chia sẻ bài viết này:
Tin tức mới nhất
%20(1).webp)
NVIDIA giới thiệu nền tảng kiến trúc Vera Rubin.
7:00 25/8/26
NVIDIA đã công bố dữ liệu chuẩn hiệu năng đo được cho nền tảng Vera Rubin NVL72 được thiết kế để chạy các tác vụ trí tuệ nhân tạo dựa trên tác nhân.
OpenAI tích hợp chuỗi mô hình GPT vào Kiro
7:00 25/8/26
OpenAI đã tích hợp dòng mô hình GPT-5.6 mới nhất của mình vào nền tảng phát triển phần mềm Kiro để tăng cường quy trình lập trình trí tuệ nhân tạo.
OpenAI nghiên cứu về Tự do và Quyền lực trong Kỷ nguyên Trí tuệ Nhân tạo
7:00 25/8/26
OpenAI (Mỹ) đã ra mắt “Kỷ nguyên Trí tuệ”, một blog từ nhóm Chiến lược Tương lai của họ, phân tích cách các xã hội tự do có thể bảo vệ quyền và khả năng tự quyết của cá nhân khi trí tuệ nhân tạo phát triển.
Copyright © 2024 Generatived - All right Reserved.
Chia sẻ bài viết này:
Chia sẻ bài viết này:
Danh mục
Tin tức
AI và luật/hệ thống/kinh tế/xã hội
Hãy theo dõi chúng tôi
Ngôn ngữ
Generatived là dịch vụ cung cấp thông tin và xu hướng chuyên về Generative AI. Chúng tôi sẽ cố gắng hết sức để cung cấp thông tin về thế giới đang thay đổi nhanh chóng.
Generatived là dịch vụ cung cấp thông tin và xu hướng chuyên về Generative AI. Chúng tôi sẽ cố gắng hết sức để cung cấp thông tin về thế gi ới đang thay đổi nhanh chóng.
Hãy theo dõi chúng tôi
Ngôn ngữ
Tin tức mới nhất
NVIDIA giới thiệu nền tảng kiến trúc Vera Rubin.
7:00 25/8/26
NVIDIA đã công bố dữ liệu chuẩn hiệu năng đo được cho nền tảng Vera Rubin NVL72 được thiết kế để chạy các tác vụ trí tuệ nhân tạo dựa trên tác nhân.
OpenAI tích hợp chuỗi mô hình GPT vào Kiro
7:00 25/8/26
OpenAI đã tích hợp dòng mô hình GPT-5.6 mới nhất của mình vào nền tảng phát triển phần mềm Kiro để tăng cường quy trình lập trình trí tuệ nhân tạo.
OpenAI nghiên cứu về Tự do và Quyền lực trong Kỷ nguyên Trí tuệ Nhân tạo
7:00 25/8/26
OpenAI (Mỹ) đã ra mắt “Kỷ nguyên Trí tuệ”, một blog từ nhóm Chiến lược Tương lai của họ, phân tích cách các xã hội tự do có thể bảo vệ quyền và khả năng tự quyết của cá nhân khi trí tuệ nhân tạo phát triển.