Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

Microsoft gần đây đã công bố một bước tiến đáng kể trong cơ sở hạ tầng AI của mình với việc triển khai cụm sản xuất quy mô lớn đầu tiên, bao gồm hơn 4.600 đơn vị NVIDIA GB300 NVL72. Các đơn vị này được trang bị GPU NVIDIA Blackwell Ultra và được kết nối thông qua mạng NVIDIA InfiniBand mới nhất. Việc triển khai này đánh dấu sự khởi đầu của một nỗ lực rộng lớn hơn nhằm triển khai hàng trăm nghìn GPU Blackwell Ultra tại các trung tâm dữ liệu AI của Microsoft trên toàn thế giới. Cụm mới này được thiết kế để cho phép phát triển các mô hình AI lớn hơn, mạnh mẽ hơn bằng cách giảm thời gian đào tạo mô hình từ vài tháng xuống còn vài tuần và tăng thông lượng của khối lượng công việc suy luận.

Thành tựu này là kết quả của nỗ lực hợp tác trải rộng trên nhiều lĩnh vực, bao gồm phần cứng, hệ thống, chuỗi cung ứng và cơ sở vật chất, với NVIDIA đóng vai trò chủ chốt. Nền tảng Microsoft Azure trước đây đã tích hợp máy ảo ND GB200 v6, được hỗ trợ bởi kiến ​​trúc Blackwell của NVIDIA, đã được chứng minh là rất cần thiết để xử lý các tác vụ AI đầy thách thức nhất. Máy ảo ND GB300 v6 mới nhất dự kiến ​​sẽ vượt trội hơn thế hệ trước nhờ mang lại hiệu suất tối ưu cho các mô hình suy luận, hệ thống AI tác nhân và Generative AI đa phương thức. Các máy ảo này là một phần của hệ thống quy mô rack với thông số kỹ thuật ấn tượng, bao gồm 72 GPU NVIDIA Blackwell Ultra, băng thông rack-to-rack 800Gbps và hiệu suất FP4 Tensor Core lên đến 1.440 petaflop.

Phương pháp tiếp cận của Microsoft trong việc xây dựng cơ sở hạ tầng siêu máy tính AI là tái cấu trúc mọi khía cạnh của ngăn xếp công nghệ thành một hệ thống tích hợp. Máy ảo ND GB300 v6 thể hiện phương pháp tích hợp này với những cải tiến về tính toán, bộ nhớ và mạng. Ở cấp độ rack, các công nghệ như NVLink và NVSwitch giúp giảm thiểu giới hạn bộ nhớ và băng thông, tạo điều kiện thuận lợi cho việc truyền dữ liệu nội bộ rack và cho phép các hệ thống AI phản hồi nhanh hơn và có khả năng mở rộng hơn. Để mở rộng những khả năng này vượt ra ngoài phạm vi một rack duy nhất, Azure sử dụng NVIDIA Quantum-X800 InfiniBand để mở rộng hiệu quả việc đào tạo các mô hình cực lớn trên hàng chục nghìn GPU.

Nhìn về tương lai, Microsoft sẽ tiếp tục đầu tư vào cơ sở hạ tầng AI, tận dụng Azure để nhanh chóng cung cấp cơ sở hạ tầng GB300 NVL72 quy mô lớn, đáp ứng nhu cầu ngày càng tăng về AI tiên tiến. Khi Azure mở rộng triển khai GB300 trên toàn cầu, khách hàng sẽ có thể đào tạo và triển khai các mô hình mới nhanh hơn. Máy ảo NVIDIA GB300 v6 sẽ thiết lập một chuẩn mực mới cho cơ sở hạ tầng AI. Microsoft sẽ cập nhật về các phát triển trong tương lai và chuẩn hiệu năng khi quá trình triển khai NVIDIA GB300 NVL72 trên toàn cầu được tiến hành.