Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

NVIDIA vừa công bố HGX B200, một nền tảng điện toán tiên tiến giúp cải thiện đáng kể hiệu suất đồng thời tập trung vào hiệu quả năng lượng. Nền tảng mới này được cho là vượt trội hơn thế hệ HGX H100 trước đó về tác động môi trường và giảm lượng khí thải carbon tới 24% cho các khối lượng công việc AI quy mô lớn. HGX B200 sở hữu tám GPU và tận dụng kết nối tốc độ cao để hỗ trợ các tác vụ AI và điện toán hiệu suất cao.

Hiệu suất được cải thiện của HGX B200 đến từ GPU NVIDIA Blackwell B200, với bộ nhớ HBM3E 180GB và một bộ tính năng nâng cao hiệu suất. Những cải tiến này bao gồm Transformer Engine thế hệ thứ hai và NVLink/NVSwitch thế hệ thứ năm, kết hợp để mang lại thông lượng xử lý có độ chính xác thấp được cải thiện. Nền tảng này mang lại thông lượng xử lý nhanh hơn 2,3 lần so với HGX H100 và tiết kiệm năng lượng hơn tới 15 lần cho suy luận AI, tương đương với mức giảm năng lượng 93% cho cùng một khối lượng công việc.

Bên cạnh hiệu quả vận hành, HGX B200 còn cho thấy khả năng giảm phát thải liên quan đến sản xuất trên mỗi exaflop tính toán. Cường độ carbon của nền tảng cho tính toán đã giảm từ 0,66 gCO2e trên mỗi exaflop đối với HGX H100 xuống còn 0,50 gCO2e trên mỗi exaflop đối với HGX B200. Mức giảm này dựa trên tổng số FLOPS được thực hiện trong suốt vòng đời của sản phẩm, ước tính từ dữ liệu lượng khí thải carbon của sản phẩm.

Cam kết của NVIDIA về tính bền vững được thể hiện rõ trong thiết kế của HGX B200, với mục tiêu giảm phát thải trong giai đoạn sử dụng, đặc biệt là cho đào tạo AI và suy luận. NVIDIA cũng dự kiến hiệu suất suy luận sẽ cải thiện gấp 10 lần đối với một số mô hình AI nhất định và giảm 90% lượng khí thải carbon trong vận hành so với HGX H100. Những kết quả này được hỗ trợ bởi dữ liệu như mức tiêu thụ năng lượng của trung tâm dữ liệu khu vực và hệ số phát thải của Cơ quan Năng lượng Quốc tế (IEA). NVIDIA ưu tiên các cân nhắc về môi trường trong quá trình phát triển sản phẩm, nỗ lực mang lại hiệu suất tiên tiến và tính bền vững trong điện toán và AI.