Supermicro, Inc.は、生成AIの展開を強化するために設計された新しいポートフォリオを発表し、一連のSuperClusterソリューションを導入した。これらのソリューションは、大規模言語モデル（LLM）インフラストラクチャーをサポートするように調整されており、空冷および水冷トレーニングとクラウドスケールの推論ラック構成の両方を提供する。このシステムには、最新のNVIDIA TensorコアGPU、高度なネットワーキング機能、NVIDIA AIエンタープライズソフトウェアが装備されており、エンタープライズおよびクラウド インフラストラクチャーのニーズに応えることを目指している。
同社のSuperCluster製品には、NVIDIA MGX™ テクノロジーを搭載した4U水冷システム、8U空冷システム、1U空冷システムの3つの構成が含まれる。これらのシステムは、優れたLLMトレーニングパフォーマンスを提供するように設計されており、大規模なバッチ サイズと大量のLLM推論を処理できる。Supermicroの社長兼CEOは、世界的な製造能力の拡大により、これらのAIクラスターを迅速に提供できる同社の能力を強調した。
Supermicroのソリューションは、NVIDIAの最新のGPU、CPU、ネットワーキング、およびソフトウェアテクノロジーを活用して、次世代AIワークロードの要求に対応する。液冷を利用する4U NVIDIA HGX H100/H200 8 GPUシステムは、NVIDIA BlackwellアーキテクチャーベースのGPUをサポートするように設計されており、エネルギー消費とデータセンターの総所有コスト（TCO）を大幅に削減する。システムの冷却テクノロジーは、GPUとCPUの最適な温度を維持し、最高のパフォーマンスを保証するために重要だ。
Supermicro SuperClusterは、LLMトレーニングと大容量推論用に最適化されており、スケーラブルなネットワークトポロジと32ノードから数千ノードまでシームレスに拡張できる機能を備えている。同社の厳格なテストプロセスにより、完全に統合された液体冷却システムの運用効果と効率が出荷前に保証される。NVIDIA AI Enterprise 5.0ソフトウェアを組み込むことで、これらのクラスターは最大数兆のパラメーターを使用したLLMのトレーニングをサポートする準備が整い、急速に進歩する生成AI分野に強固な基盤を提供する。
出典：プレスリリース
