Generatived(Beta)|生成AIの最新ニュースとトレンドを提供
NVIDIA L40S GPU搭載のOVXサーバー、AIトレーニングと推論を高速化
Generatived
2023年8月10日
Dell Technologies、Hewlett Packard Enterprise、Lenovo、Supermicroなどから近日発売予定のOVXサーバーには新しいNVIDIA GPUが搭載され、トレーニングと推論、グラフィックスを多用するワークロードを高速化します。NVIDIAは8月8日、AIトレーニングと推論、NVIDIA Omniverseプラットフォームによる3Dデザインとビジュアライゼーション、ビデオプロセッシング、産業デジタル化など、最も計算量の多い複雑なアプリケーションを高速化するように設計された強力なユニバーサルデータセンタープロセッサである、新しいNVIDIA L40S GPUを搭載したNVIDIA OVXサーバーを発表しました。この新しいGPUは、生成AIの高速コンピューティングワークロードを強化し、テキスト、画像とビデオの生成、チャットボット、ゲーム開発、製品デザイン、ヘルスケアなど、業界全体のワークフローとサービスを変革しています。NVIDIAのプロフェッショナルビジュアリゼーション担当バイスプレジデントのボブペティ(Bob Pette)は次のように述べています。「生成AIがあらゆる業界を変革する中、企業はデータセンターに大規模なコンピューティングリソースをますます求めています。NVIDIA L40S GPUを搭載したOVXシステムは、AI、グラフィックス、およびビデオプロセッシングワークロードを加速し、増え続ける複雑で多様なアプリケーションの厳しいパフォーマンス要件を満たします」。NVIDIA OVXシステムでは、48GBのメモリを備えたNVIDIA L40S GPUをサーバーごとに最大8基搭載することができます。NVIDIA Ada Lovelace GPUアーキテクチャに基づくL40Sには、第4世代TensorコアとFP8 Transformer Engineが搭載されており、1.45ペタフロップスを超えるTensor処理能力を実現します。数十億のパラメータとテキストやビデオなどの複数のデータモダリティを含む複雑なAIワークロードの場合、L40Sは、NVIDIA A100 TensorコアGPUと比較して最大1.2倍の生成AI推論パフォーマンスと最大1.7倍のトレーニングパフォーマンスが可能となります。リアルタイムレンダリング、製品デザイン、3Dコンテンツ作成などの高忠実度のプロフェッショナルなビジュアライゼーションワークフローを強化するために、NVIDIA L40S GPUには212テラフロップスのレイトレーシングパフォーマンスを実現する142個の第3世代RTコアが搭載されています。これにより、クリエイティブなプロフェッショナルは、没入型のビジュアル体験やフォトリアルなコンテンツを作成することができます。エンジニアリングや科学シミュレーションなどの計算要求の厳しいワークフロー向けに、NVIDIA L40Sには18,176個のCUDAコアが搭載されており、NVIDIA A100 GPUのほぼ5倍の単精度浮動小数点(FP32)パフォーマンスを実現し、複雑な計算やデータ集約型の分析を高速化します。L40Sインスタンスを提供する最初のクラウドサービスプロバイダーの1つに、大規模なGPUアクセラレーションワークロードを専門とするCoreWeaveがあります。L40S GPUを導入する企業は、本日メジャーアップデートを発表したNVIDIA AI Enterpriseソフトウェアの恩恵を受けることができます。このソフトウェアは、シミュレーション用のNVIDIA Modulus、データサイエンス用のNVIDIA RAPIDS、プロダクションAI用のNVIDIA Triton Inference Serverなど、100を超えるフレームワーク、事前トレーニング済みモデル、ツールキット、ソフトウェア
Generatived は、Generative AIに特化した情報やトレンドをお届けするサービスです。大きく変わりゆく世界の情報を全力でお届けします。
ニュース
Generatived は、Generative AIに特化した情報やトレンドをお届けするサービスです。大きく変わりゆく世界の情報を全力でお届けします。
Copyright © 2024 Generatived - All right Reserved.