Generatived（Beta）｜生成AIの最新ニュースとトレンドを提供

NVIDIAは、AIモデルの増大する計算需要への対応において最前線に立ってきました。AIモデルのパラメータ数は数百万から数兆へと急増しています。2016年に導入された同社のNVLinkテクノロジは、GPU間通信の強化と統合メモリ空間の構築において極めて重要な役割を果たし、高性能コンピューティングとAIワークロードにおけるPCIeの限界を克服しました。NVLinkの進化は、8GPUトポロジにおけるGPU間の300GB/秒の帯域幅を実現するNVLinkスイッチテクノロジの2018年の導入など、重要なマイルストーンによって特徴づけられてきました。この進歩は、現在のマルチGPUコンピューティングファブリック時代の基盤を築きました。

2024年にリリースされる最新世代の第5世代NVLinkは、72基のGPU間で1,800GB/秒という驚異的な全方向通信能力を誇り、総帯域幅は130TB/秒と、第1世代の800倍に相当します。NVIDIAのイノベーションへのコミットメントは、AIモデルの複雑性と計算ニーズの急速な増大に対応するため、NVLinkを継続的に強化し、毎年新世代をリリースしていることからも明らかです。ハードウェアのパフォーマンスは、GPU通信を最適化し、主要なディープラーニングフレームワークとシームレスに統合するように設計されたオープンソースライブラリ、NVIDIA Collective Communication Library (NCCL)によって強化されています。

AIファクトリーの生産性向上において、NVIDIAのハードウェアとNVLinkテクノロジーは、AI推論のコンピューティングニーズを満たす上で重要な役割を果たしています。72GPUラックアーキテクチャは、様々なユースケースにおいて最適な推論性能を実現する上で重要な役割を果たします。AIファクトリーの収益最大化には、ワットあたりのスループットとレーテンシーのバランスが不可欠であり、フロンティアパレート曲線の下の領域がベンチマークとして機能します。スケールアップ構成によってパフォーマンスは大きく異なり、スループットの向上とレーテンシーの低減におけるNVLinkの高速通信の重要性が浮き彫りになっています。

ハイパースケーラーのさらなる支援のため、NVIDIAは包括的なNVLinkスケールアップ・ファブリック・テクノロジーへのアクセスを提供するNVLink Fusionを発表しました。このソリューションにより、NVIDIAのラックスケール・アーキテクチャへのカスタムシリコン統合が可能になり、カスタムCPUやXPUを含む様々な構成に対応する汎用性の高いソリューションが提供されます。NVLink Fusionは、Open Compute Project (OCP) MGXラックアーキテクチャと互換性のあるモジュラーソリューションとして提供され、柔軟性と容易な統合を実現します。カスタムXPU構成のインターフェースはUniversal Chiplet Interconnect Express (UCIe) IPを活用し、カスタムCPU構成ではNVIDIA GPUへの接続のためにNVIDIA NVLink-C2C IPの統合が推奨されます。

NVLink Fusion は、強力なパートナーエコシステムによって支えられており、幅広いサポートと迅速なデザインインを実現します。このエコシステムと、OCP MGX ラックアーキテクチャおよびサプライチェーンの対応力を組み合わせることで、導入企業は市場投入までの時間を短縮できます。NVIDIA の NVLink は、AI 推論のコンピューティング需要への対応において大きな進歩を遂げており、ハイパースケーラーに比類のないパフォーマンスとカスタマイズオプションを提供します。