Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

NVIDIA luôn đi đầu trong đổi mới trí tuệ nhân tạo (AI), tập trung vào việc đào tạo các mô hình thông minh hơn thông qua huấn luyện trước, huấn luyện sau và mở rộng quy mô trong quá trình kiểm thử. Công ty nhấn mạnh tầm quan trọng của việc huấn luyện như là nền tảng để phát triển các hệ thống AI thông minh hơn. Các quy trình sau huấn luyện, bao gồm tinh chỉnh và học tăng cường, rất cần thiết để cải thiện độ chính xác cụ thể của từng nhiệm vụ và trang bị cho các mô hình những khả năng nâng cao như suy luận.

Khi các mô hình AI ngày càng trở nên tinh vi, việc huấn luyện đòi hỏi sức mạnh tính toán lớn hơn, dẫn đến chi phí tăng cao và thời gian huấn luyện kéo dài hơn. Để giải quyết vấn đề này, NVIDIA đã và đang nỗ lực cung cấp các giải pháp tính toán hiệu quả hơn. Cách tiếp cận của họ dựa trên một chiến lược toàn diện bao gồm GPU, CPU, các thành phần mạng, kiến ​​trúc hệ thống và một loạt phần mềm. Chiến lược này nhằm mục đích cải thiện đáng kể hiệu suất huấn luyện, vượt xa những cải tiến gia tăng thường được kỳ vọng từ Định luật Moore. Kết quả là thời gian huấn luyện nhanh hơn, cho phép triển khai nhanh hơn và tạo ra doanh thu cho các nhà phát triển mô hình, cũng như giảm chi phí huấn luyện và cải thiện lợi tức đầu tư (ROI).

Những tiến bộ mới nhất của NVIDIA đã được thể hiện trong các bài kiểm tra hiệu năng huấn luyện MLPerf mới nhất. Trong bài kiểm tra này, các mô hình ngôn ngữ quy mô lớn của NVIDIA sử dụng độ chính xác FP4. Kiến trúc NVIDIA Blackwell, kết hợp với các công thức huấn luyện mới và những cải tiến về ngăn xếp phần mềm, đã cho phép GB200 NVL72 đạt được hiệu năng huấn luyện cao hơn tới 3,2 lần so với các mô hình trước đây sử dụng độ chính xác FP8. Việc giảm thời gian huấn luyện này cho phép các nhà phát triển đưa các mô hình AI ra thị trường nhanh hơn.

Là một phần trong cam kết không ngừng đổi mới của chúng tôi, NVIDIA cũng đã cải thiện hiệu năng của các kiến ​​trúc hiện có thông qua các nâng cấp phần mềm và thuật toán. Kiến trúc Blackwell hỗ trợ tăng tốc FP4, bao gồm định dạng độc quyền NVFP4, mang lại những cải tiến hiệu năng đáng kể. Trong vòng huấn luyện MLPerf mới nhất, GB200 NVL72 đã chứng minh hiệu năng cao hơn tới 1,4 lần khi sử dụng công thức huấn luyện NVFP4 so với các bài nộp FP8 từ vòng trước. Sự cải tiến này không chỉ giúp huấn luyện nhanh hơn mà còn cải thiện tỷ lệ giá/hiệu năng trên cùng một cơ sở hạ tầng GPU.

NVIDIA không ngừng nỗ lực cải thiện hiệu năng trên toàn bộ hệ sinh thái phần cứng và phần mềm của mình, cho phép đào tạo và triển khai hiệu quả các mô hình AI lớn hơn, thông minh hơn, mang lại giá trị đáng kể cho ngành công nghiệp AI.