Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

NVIDIA một lần nữa khẳng định vị thế thống trị trong lĩnh vực trí tuệ nhân tạo (AI) khi đạt được kết quả vượt trội trong cả bảy bài kiểm tra của MLPerf Training v5.1, loạt bài kiểm tra chuẩn mực ngành để đo lường hiệu suất đào tạo AI. GPU của NVIDIA cho thấy thời gian đào tạo nhanh nhất cho nhiều mô hình, bao gồm các mô hình ngôn ngữ quy mô lớn và tạo hình ảnh. Đáng chú ý, NVIDIA là công ty duy nhất gửi kết quả cho tất cả các bài kiểm tra, làm nổi bật tính linh hoạt của bộ phần mềm CUDA và khả năng lập trình cao của GPU.

Việc giới thiệu kiến trúc GPU NVIDIA Blackwell Ultra đã chứng minh một bước đột phá trong khả năng đào tạo AI. Hệ thống rack-scale dựa trên Blackwell Ultra, GB300 NVL72, đã đạt được hiệu suất cải thiện hơn bốn lần trong một số bài kiểm tra so với kiến trúc Hopper trước đây. Những cải tiến về hiệu suất này đạt được thông qua các nâng cấp kiến trúc như Lõi Tensor mới, tăng cường sức mạnh tính toán của lớp chú ý và mở rộng bộ nhớ. Ngoài ra, công ty cũng công bố nền tảng NVIDIA Quantum-X800 InfiniBand, cung cấp băng thông mạng gấp đôi cho các hệ thống mở rộng quy mô.

NVIDIA đã có một bước đột phá khi áp dụng độ chính xác NVFP4 để tính toán chuẩn huấn luyện MLPerf, lần đầu tiên có đối thủ cạnh tranh nào làm được điều này. Mức độ chính xác này, được hỗ trợ bởi GPU Blackwell, cho phép tính toán nhanh hơn với ít bit hơn mà không ảnh hưởng đến độ chính xác. Kiến trúc Blackwell Ultra đã nâng cao hơn nữa khả năng này, cho phép NVIDIA đạt được hiệu suất tính toán AI chưa từng có và đáp ứng các yêu cầu nghiêm ngặt về độ chính xác của chuẩn.

Thành tựu của NVIDIA cũng bao gồm việc thiết lập kỷ lục mới với GPU Blackwell, đạt được thời gian huấn luyện đáng kinh ngạc 10 phút cho mô hình Llama 3.1 405B sử dụng hơn 5.000 GPU. NVIDIA cũng đạt kết quả tốt trong các chuẩn mới được giới thiệu, thiết lập chuẩn hiệu suất cho các mô hình Llama 3.1 8B và FLUX.1. Các đối tác hệ sinh thái của NVIDIA đóng vai trò quan trọng trong thử nghiệm này, và sự đóng góp từ nhiều tổ chức khác nhau đã nhấn mạnh cam kết của NVIDIA trong việc thúc đẩy một cộng đồng AI mạnh mẽ và hợp tác.