top of page

Generatived(Beta)|生成AIの最新ニュースとトレンドを提供

logo.png

NVIDIA、AIワークロード向けの第5世代NVLinkを発表

Generatived

25/8/26 9:00

NVIDIAは、AIモデルの増大する計算需要への対応において最前線に立ってきました。AIモデルのパラメータ数は数百万から数兆へと急増しています。2016年に導入された同社のNVLinkテクノロジは、GPU間通信の強化と統合メモリ空間の構築において極めて重要な役割を果たし、高性能コンピューティングとAIワークロードにおけるPCIeの限界を克服しました。NVLinkの進化は、8GPUトポロジにおけるGPU間の300GB/秒の帯域幅を実現するNVLinkスイッチテクノロジの2018年の導入など、重要なマイルストーンによって特徴づけられてきました。この進歩は、現在のマルチGPUコンピューティングファブリック時代の基盤を築きました。

2024年にリリースされる最新世代の第5世代NVLinkは、72基のGPU間で1,800GB/秒という驚異的な全方向通信能力を誇り、総帯域幅は130TB/秒と、第1世代の800倍に相当します。NVIDIAのイノベーションへのコミットメントは、AIモデルの複雑性と計算ニーズの急速な増大に対応するため、NVLinkを継続的に強化し、毎年新世代をリリースしていることからも明らかです。ハードウェアのパフォーマンスは、GPU通信を最適化し、主要なディープラーニングフレームワークとシームレスに統合するように設計されたオープンソースライブラリ、NVIDIA Collective Communication Library (NCCL)によって強化されています。

AIファクトリーの生産性向上において、NVIDIAのハードウェアとNVLinkテクノロジーは、AI推論のコンピューティングニーズを満たす上で重要な役割を果たしています。72GPUラックアーキテクチャは、様々なユースケースにおいて最適な推論性能を実現する上で重要な役割を果たします。AIファクトリーの収益最大化には、ワットあたりのスループットとレーテンシーのバランスが不可欠であり、フロンティアパレート曲線の下の領域がベンチマークとして機能します。スケールアップ構成によってパフォーマンスは大きく異なり、スループットの向上とレーテンシーの低減におけるNVLinkの高速通信の重要性が浮き彫りになっています。

ハイパースケーラーのさらなる支援のため、NVIDIAは包括的なNVLinkスケールアップ・ファブリック・テクノロジーへのアクセスを提供するNVLink Fusionを発表しました。このソリューションにより、NVIDIAのラックスケール・アーキテクチャへのカスタムシリコン統合が可能になり、カスタムCPUやXPUを含む様々な構成に対応する汎用性の高いソリューションが提供されます。NVLink Fusionは、Open Compute Project (OCP) MGXラックアーキテクチャと互換性のあるモジュラーソリューションとして提供され、柔軟性と容易な統合を実現します。カスタムXPU構成のインターフェースはUniversal Chiplet Interconnect Express (UCIe) IPを活用し、カスタムCPU構成ではNVIDIA GPUへの接続のためにNVIDIA NVLink-C2C IPの統合が推奨されます。

NVLink Fusion は、強力なパートナーエコシステムによって支えられており、幅広いサポートと迅速なデザインインを実現します。このエコシステムと、OCP MGX ラックアーキテクチャおよびサプライチェーンの対応力を組み合わせることで、導入企業は市場投入までの時間を短縮できます。NVIDIA の NVLink は、AI 推論のコンピューティング需要への対応において大きな進歩を遂げており、ハイパースケーラーに比類のないパフォーマンスとカスタマイズオプションを提供します。

この記事を共有:

最新のニュース
NVIDIAが多模態学習技術

NVIDIAが多模態学習技術

26/8/24 14:00

NVIDIA(サンフランシスコ)は、連合学習フレームワーク「NVIDIA FLARE」を活用し、大規模な視覚言語モデルの分散トレーニングを効率化する技術設計を公表した模様だ。

MicrosoftがCosmosDB拡充

MicrosoftがCosmosDB拡充

26/8/24 14:00

Microsoft(レッドモンド)は、Visual Studio Codeにおける「Azure Cosmos DB」機能の拡張更新を発表した模様だ。

NVIDIA開発環境を最適化

NVIDIA開発環境を最適化

26/8/24 14:00

NVIDIA(サンフランシスコ)は、AIコーディングエージェントと「Holoscan CLI」を用いてリアルタイム内視鏡ツール分割アプリを構築する開発手法を公表した模様だ。

NVIDIAがAI開発基盤提供

NVIDIAがAI開発基盤提供

26/8/24 14:00

NVIDIA(サンフランシスコ)は、AIエージェントの処理能力向上と評価を目的としたオープンソースツール「NVIDIA SkillEvaluator」を公開した模様だ。

Copyright © 2024 Generatived - All right Reserved.

この記事を共有:

この記事を共有:

Generatived AI Logo

Generatived は、Generative AIに特化した情報やトレンドをお届けするサービスです。大きく変わりゆく世界の情報を全力でお届けします。

  • Facebook
  • X

フォローをお願いします

言語

最新のニュース
NVIDIAが多模態学習技術

NVIDIAが多模態学習技術

26/8/24 14:00

NVIDIA(サンフランシスコ)は、連合学習フレームワーク「NVIDIA FLARE」を活用し、大規模な視覚言語モデルの分散トレーニングを効率化する技術設計を公表した模様だ。

MicrosoftがCosmosDB拡充

MicrosoftがCosmosDB拡充

26/8/24 14:00

Microsoft(レッドモンド)は、Visual Studio Codeにおける「Azure Cosmos DB」機能の拡張更新を発表した模様だ。

NVIDIA開発環境を最適化

NVIDIA開発環境を最適化

26/8/24 14:00

NVIDIA(サンフランシスコ)は、AIコーディングエージェントと「Holoscan CLI」を用いてリアルタイム内視鏡ツール分割アプリを構築する開発手法を公表した模様だ。

NVIDIAがAI開発基盤提供

NVIDIAがAI開発基盤提供

26/8/24 14:00

NVIDIA(サンフランシスコ)は、AIエージェントの処理能力向上と評価を目的としたオープンソースツール「NVIDIA SkillEvaluator」を公開した模様だ。

bottom of page