Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

Kiến trúc Blackwell của NVIDIA đạt điểm số cao nhất trong bài kiểm tra chuẩn MLPerf Training v5.1, thiết lập một tiêu chuẩn mới về hiệu suất đào tạo AI. Trong bài kiểm tra chuẩn này, một chỉ số quan trọng về khả năng đào tạo AI, GPU Blackwell và Blackwell Ultra của NVIDIA đã vượt trội so với các sản phẩm cạnh tranh trên bảy mẫu máy khác nhau. Thành tích này nhấn mạnh tầm quan trọng của việc liên tục đổi mới công nghệ AI để đáp ứng nhu cầu ngày càng tăng đối với các mô hình lớn hơn và phức tạp hơn.

Thành công của kiến trúc Blackwell là nhờ hỗ trợ định dạng dữ liệu NVFP4, đã được chứng minh là cải thiện độ chính xác đào tạo và giảm chi phí. Đặc biệt, GPU Blackwell Ultra của NVIDIA mang lại những cải tiến hiệu suất đáng kể, bao gồm thông lượng FP4 tăng lên và dung lượng bộ nhớ HBM3e lớn hơn. Những tiến bộ này đã dẫn đến những cải tiến đáng kể trong đào tạo mô hình ngôn ngữ quy mô lớn (LLM), bằng chứng là thời gian đào tạo kỷ lục 10 phút đạt được trên bài kiểm tra chuẩn Llama 3.1 405B sử dụng 5.120 GPU Blackwell.

Phương pháp tiếp cận toàn diện của NVIDIA đối với đào tạo AI cũng mở rộng sang các chức năng mạng. Nền tảng Quantum-X800 cho phép kết nối tốc độ cao giữa các GPU, đạt hiệu suất mở rộng 85% và cho phép sử dụng hiệu quả hơn các GPU bổ sung. GPU Blackwell Ultra cũng thiết lập một chuẩn mực mới cho hiệu suất đào tạo Llama 3.1 8B, được hưởng lợi từ việc tối ưu hóa toàn bộ ngăn xếp và cải thiện độ chính xác.

Ngoài đào tạo LLM, GPU Blackwell của NVIDIA cũng hoạt động tốt trên chuẩn mực mô hình tạo hình ảnh FLUX.1 mới, đạt thời gian đào tạo nhanh nhất và chứng minh tính linh hoạt của ngăn xếp đào tạo của NVIDIA. Các tối ưu hóa phần mềm như hợp nhất hoạt động và sử dụng các lớp tuyến tính LoRA cũng góp phần đáng kể vào hiệu suất vượt trội của NVIDIA trên chuẩn mực tinh chỉnh Llama 2 70B LoRA. Những kết quả này khẳng định cam kết của NVIDIA trong việc phát triển toàn diện công nghệ đào tạo AI.