Generatived（Beta）｜生成AIの最新ニュースとトレンドを提供

Microsoft Azureは、OpenAIの高度なAI推論タスク向けに特別に設計されたNVIDIA GB300 NVL72システムを搭載した新しいスーパーコンピューティングクラスター、NDv6 GB300 VMシリーズを発表しました。このクラスターは、NVIDIA Quantum-X800 InfiniBandネットワークプラットフォームを介して相互接続された4,600基以上のNVIDIA Blackwell Ultra GPUを搭載しています。MicrosoftとNVIDIAのコラボレーションは、米国におけるイノベーションの推進に重点を置き、最も困難なAIワークロードにも対応できるAIインフラストラクチャの構築に大きく貢献しました。

NDv6 GB300 VMシリーズの中核は、72基のNVIDIA Blackwell Ultra GPUと36基のNVIDIA Grace CPUを1つのユニットに統合したNVIDIA GB300 NVL72システムです。この構成は、VMあたり37テラバイトの高速メモリと1.44エクサフロップスのFP4 Tensor Coreパフォーマンスを提供し、複雑なAIモデルの管理に不可欠です。NVIDIA Blackwell Ultraプラットフォームは、MLPerf Inference v5.1ベンチマークにおけるパフォーマンスからもわかるように、卓越したトレーニングおよび推論能力を発揮しています。

Microsoft Azure のクラスターは、統合されたスーパーコンピューターを実現するために、2 層 NVIDIA ネットワーク アーキテクチャを採用しています。各ラックでは、NVIDIA NVLink スイッチ ファブリックが 130 TB/s の帯域幅を提供し、GPU を統合アクセラレータとして動作させます。ラック間通信には、NVIDIA Quantum-X800 InfiniBand プラットフォームが GPU あたり 800 Gbps の帯域幅を提供し、クラスター全体にわたる効率的な通信を確保します。また、このシステムは、アダプティブ ルーティングや NVIDIA SHARP v4 などの高度な機能も活用しており、大規模なトレーニングと推論の効率性を向上させます。

この成果はAIインフラストラクチャにおける大きな進歩を示すものであり、Microsoft Azureは数十万基のNVIDIA Blackwell Ultra GPUの導入を目指しています。このクラスターの導入はAIの未来への一歩であり、OpenAIのような組織とのパートナーシップからさらなるイノベーションが生まれる可能性を秘めています。この開発に関する詳細は、Microsoft Azureブログをご覧ください。