Generatived（Beta）｜生成AIの最新ニュースとトレンドを提供

マイクロソフトは先日、4,600台を超えるNVIDIA GB300 NVL72ユニットを搭載した初の大規模本番環境クラスターを導入し、AIインフラストラクチャの大幅な進歩を発表しました。これらのユニットはNVIDIA Blackwell Ultra GPUを搭載し、最新のNVIDIA InfiniBandネットワークを介して相互接続されています。今回の導入は、数十万台ものBlackwell Ultra GPUを世界中のマイクロソフトのAIデータセンターに導入するという、より広範な取り組みの始まりとなります。新しいクラスターは、モデルトレーニングを数か月から数週間に短縮し、推論ワークロードのスループットを向上させることで、より大規模で強力なAIモデルの開発を可能にするように設計されています。

この成果は、ハードウェア、システム、サプライチェーン、施設など、様々な分野にまたがる共同作業の成果であり、NVIDIAが重要な役割を果たしました。Microsoft Azureプラットフォームには、NVIDIAのBlackwellアーキテクチャを搭載したND GB200 v6仮想マシンが以前から統合されており、これは最も困難なAIタスクの処理に不可欠なものとなりました。最新のND GB300 v6 VMは、推論モデル、エージェントAIシステム、マルチモーダル生成AI向けに最適化されたパフォーマンスを提供し、従来モデルを凌駕する予定です。これらのVMは、72基のNVIDIA Blackwell Ultra GPU、800Gbpsのラック間帯域幅、最大1,440ペタフロップスのFP4 Tensor Coreパフォーマンスなど、優れた仕様を誇るラックスケールシステムの一部です。

MicrosoftのAIスーパーコンピューティング インフラストラクチャ構築へのアプローチは、テクノロジ スタックのあらゆる側面を統合システムとして再考することです。ND GB300 v6 VMは、コンピューティング、メモリ、ネットワークにおける革新により、この統合アプローチを体現しています。ラックレベルでは、NVLinkやNVSwitchなどのテクノロジがメモリと帯域幅の制限を軽減し、ラック内データ転送を容易にし、より応答性と拡張性に優れたAIシステムを実現します。これらの機能を単一ラックを超えて拡張するために、 AzureはNVIDIA Quantum-X800 InfiniBandを採用し、数万基のGPUにまたがる超大規模モデルのトレーニングを効率的にスケーリングします。

将来を見据え、マイクロソフトはAIインフラストラクチャへの投資を継続し、 Azureを活用してGB300 NVL72インフラストラクチャを大規模かつ迅速に提供することで、最先端のAIの需要拡大に対応します。AzureがGB300のグローバル展開を進めるにつれ、お客様は新しいモデルのトレーニングと展開を迅速化できるようになります。ND GB300 v6 VMはAIインフラストラクチャの新たなベンチマークとなるでしょう。マイクロソフトは、NVIDIA GB300 NVL72の世界的な展開が進むにつれ、今後の開発状況やパフォーマンスベンチマークに関する最新情報を随時お届けします。