top of page

Generatived(Beta)|生成AIの最新ニュースとトレンドを提供

logo.png

NVIDIA、AIワークロード向けの第5世代NVLinkを発表

Generatived

25/8/26 9:00

NVIDIAは、AIモデルの増大する計算需要への対応において最前線に立ってきました。AIモデルのパラメータ数は数百万から数兆へと急増しています。2016年に導入された同社のNVLinkテクノロジは、GPU間通信の強化と統合メモリ空間の構築において極めて重要な役割を果たし、高性能コンピューティングとAIワークロードにおけるPCIeの限界を克服しました。NVLinkの進化は、8GPUトポロジにおけるGPU間の300GB/秒の帯域幅を実現するNVLinkスイッチテクノロジの2018年の導入など、重要なマイルストーンによって特徴づけられてきました。この進歩は、現在のマルチGPUコンピューティングファブリック時代の基盤を築きました。

2024年にリリースされる最新世代の第5世代NVLinkは、72基のGPU間で1,800GB/秒という驚異的な全方向通信能力を誇り、総帯域幅は130TB/秒と、第1世代の800倍に相当します。NVIDIAのイノベーションへのコミットメントは、AIモデルの複雑性と計算ニーズの急速な増大に対応するため、NVLinkを継続的に強化し、毎年新世代をリリースしていることからも明らかです。ハードウェアのパフォーマンスは、GPU通信を最適化し、主要なディープラーニングフレームワークとシームレスに統合するように設計されたオープンソースライブラリ、NVIDIA Collective Communication Library (NCCL)によって強化されています。

AIファクトリーの生産性向上において、NVIDIAのハードウェアとNVLinkテクノロジーは、AI推論のコンピューティングニーズを満たす上で重要な役割を果たしています。72GPUラックアーキテクチャは、様々なユースケースにおいて最適な推論性能を実現する上で重要な役割を果たします。AIファクトリーの収益最大化には、ワットあたりのスループットとレーテンシーのバランスが不可欠であり、フロンティアパレート曲線の下の領域がベンチマークとして機能します。スケールアップ構成によってパフォーマンスは大きく異なり、スループットの向上とレーテンシーの低減におけるNVLinkの高速通信の重要性が浮き彫りになっています。

ハイパースケーラーのさらなる支援のため、NVIDIAは包括的なNVLinkスケールアップ・ファブリック・テクノロジーへのアクセスを提供するNVLink Fusionを発表しました。このソリューションにより、NVIDIAのラックスケール・アーキテクチャへのカスタムシリコン統合が可能になり、カスタムCPUやXPUを含む様々な構成に対応する汎用性の高いソリューションが提供されます。NVLink Fusionは、Open Compute Project (OCP) MGXラックアーキテクチャと互換性のあるモジュラーソリューションとして提供され、柔軟性と容易な統合を実現します。カスタムXPU構成のインターフェースはUniversal Chiplet Interconnect Express (UCIe) IPを活用し、カスタムCPU構成ではNVIDIA GPUへの接続のためにNVIDIA NVLink-C2C IPの統合が推奨されます。

NVLink Fusion は、強力なパートナーエコシステムによって支えられており、幅広いサポートと迅速なデザインインを実現します。このエコシステムと、OCP MGX ラックアーキテクチャおよびサプライチェーンの対応力を組み合わせることで、導入企業は市場投入までの時間を短縮できます。NVIDIA の NVLink は、AI 推論のコンピューティング需要への対応において大きな進歩を遂げており、ハイパースケーラーに比類のないパフォーマンスとカスタマイズオプションを提供します。

この記事を共有:

最新のニュース
VinasoyがAI店頭管理

VinasoyがAI店頭管理

26/10/5 7:00

Vinasoy(ベトナムクアンガイ省)は、AWS基盤を活用した生成AIソリューションの構築を発表した。

Chathamが取引検証自動化

Chathamが取引検証自動化

26/10/5 7:00

Chatham Financial(米国ペンシルベニア州)は、OpenAIのモデル群を活用して金融取引の検証作業や社内ツールの開発プロセスを刷新したと発表した。

OpenAIが蒸留攻撃を防御

OpenAIが蒸留攻撃を防御

26/10/2 7:00

OpenAI(米国サンフランシスコ)は、モデルの思考プロセス(思考ログ)を不正に抽出して自社モデルの学習や再現に悪用する大規模な「敵対的蒸留」キャンペーンを察知し、阻止したと発表した。

The DenがChatGPTを導入

The DenがChatGPTを導入

26/10/2 7:00

The Den Family Social(米国コロラド州)は、2号店の出店および事業拡大に伴い『ChatGPT Work』を導入したと発表した。

Copyright © 2024 Generatived - All right Reserved.

この記事を共有:

この記事を共有:

Generatived AI Logo

Generatived は、Generative AIに特化した情報やトレンドをお届けするサービスです。大きく変わりゆく世界の情報を全力でお届けします。

  • Facebook
  • X

フォローをお願いします

言語

最新のニュース
VinasoyがAI店頭管理

VinasoyがAI店頭管理

26/10/5 7:00

Vinasoy(ベトナムクアンガイ省)は、AWS基盤を活用した生成AIソリューションの構築を発表した。

Chathamが取引検証自動化

Chathamが取引検証自動化

26/10/5 7:00

Chatham Financial(米国ペンシルベニア州)は、OpenAIのモデル群を活用して金融取引の検証作業や社内ツールの開発プロセスを刷新したと発表した。

OpenAIが蒸留攻撃を防御

OpenAIが蒸留攻撃を防御

26/10/2 7:00

OpenAI(米国サンフランシスコ)は、モデルの思考プロセス(思考ログ)を不正に抽出して自社モデルの学習や再現に悪用する大規模な「敵対的蒸留」キャンペーンを察知し、阻止したと発表した。

The DenがChatGPTを導入

The DenがChatGPTを導入

26/10/2 7:00

The Den Family Social(米国コロラド州)は、2号店の出店および事業拡大に伴い『ChatGPT Work』を導入したと発表した。

bottom of page