Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

Microsoft Azure đã công bố cụm siêu máy tính mới, NDv6 GB300 VM Series, được hỗ trợ bởi hệ thống NVIDIA GB300 NVL72 của OpenAI, được thiết kế đặc biệt cho các tác vụ suy luận AI nâng cao. Cụm này bao gồm hơn 4.600 GPU NVIDIA Blackwell Ultra được kết nối thông qua nền tảng mạng NVIDIA Quantum-X800 InfiniBand. Sự hợp tác giữa Microsoft và NVIDIA, tập trung vào việc thúc đẩy đổi mới sáng tạo tại Hoa Kỳ, đã đóng góp đáng kể vào việc xây dựng một cơ sở hạ tầng AI có khả năng xử lý những khối lượng công việc AI đầy thách thức nhất.

Trọng tâm của dòng máy ảo NDv6 GB300 là hệ thống NVIDIA GB300 NVL72, tích hợp 72 GPU NVIDIA Blackwell Ultra và 36 CPU NVIDIA Grace thành một khối duy nhất. Cấu hình này cung cấp 37 terabyte bộ nhớ tốc độ cao và hiệu năng FP4 Tensor Core 1,44 exaflop trên mỗi máy ảo, thiết yếu cho việc quản lý các mô hình AI phức tạp. Nền tảng NVIDIA Blackwell Ultra thể hiện khả năng đào tạo và suy luận vượt trội, được chứng minh bằng hiệu suất trong bài kiểm tra chuẩn MLPerf Inference v5.1.

Để đạt được điều này, các cụm Microsoft Azure sử dụng kiến ​​trúc mạng NVIDIA hai tầng. Trong mỗi rack, cấu trúc chuyển mạch NVIDIA NVLink cung cấp băng thông 130 TB/giây, cho phép GPU hoạt động như các bộ tăng tốc tích hợp. Về giao tiếp giữa các rack, nền tảng NVIDIA Quantum-X800 InfiniBand cung cấp băng thông 800 Gbps cho mỗi GPU, đảm bảo giao tiếp hiệu quả trên toàn cụm. Hệ thống cũng tận dụng các tính năng tiên tiến như định tuyến thích ứng và NVIDIA SHARP v4 để cải thiện hiệu quả đào tạo và suy luận quy mô lớn.

Thành tựu này đánh dấu một bước tiến lớn trong cơ sở hạ tầng AI, khi Microsoft Azure đặt mục tiêu triển khai hàng trăm nghìn GPU NVIDIA Blackwell Ultra. Việc triển khai cụm này là một bước tiến hướng tới tương lai của AI, đồng thời mở ra cánh cửa cho nhiều đổi mới hơn nữa đến từ các mối quan hệ đối tác với các tổ chức như OpenAI. Đọc thêm về sự phát triển này trên blog Microsoft Azure .