Generatived（Beta）｜生成AIの最新ニュースとトレンドを提供

NVIDIA NeMo Curator チームは、AI アプリケーションによって生成される膨大な量のデータを処理できるように設計された、ビデオ キュレーション用の新しい GPU アクセラレーション ストリーミング パイプラインを導入しました。現在 NVIDIA DGX Cloud でアクセスできるこの革新的なパイプラインは、AI モデルのトレーニングに不可欠なビデオ コンテンツの処理を強化することを目的としています。チームは、スループットを最大化し、ハードウェア機能を完全に活用するために、自動スケーリングと負荷分散の手法を実装し、効率性の向上と総所有コストの削減を実現しました。

従来のバッチ処理方法では、ステージ間でデータの保存と取得が必要になるため、リソースが十分に活用されず、レーテンシーが増加することがよくあります。NVIDIA のストリーミング パイプラインは、ステージ間でデータを直接転送し、後続の処理をすぐに開始することで、これらの問題に対処します。このアプローチは、レーテンシーを削減するだけでなく、パイプライン全体でバランスの取れたスループットを確保します。チームはまた、リソースの使用をさらに最適化するために、CPU と GPU のワークロードを分離することの重要性を強調しました。

NeMo Video Curator パイプラインのアーキテクチャは、並列処理と効率的なスケーリングを可能にするフレームワークである Ray 上に構築されています。Ray アクターのプールを管理することで、パイプラインはさまざまなステージのさまざまな要求に適応し、GPU ステージがアクティブで生産的な状態を維持できるようにします。この動的なスケーリングは、高いスループットを維持し、リソースのアイドル時間を最小限に抑えるために不可欠です。

NVIDIA のビデオ キュレーション テクノロジの進歩により、ストリーミング パイプラインによるビデオ コンテンツの処理速度が従来のバッチ方式より最大 1.8 倍高速化され、パフォーマンスが大幅に向上しました。同社は自動スケーリングと負荷分散戦略の改良を続け、ベースラインより 89 倍という驚異的なパフォーマンス向上を達成しました。これにより、1 日で 2,000 個の H100 GPU で約 100 万時間の 720p ビデオ データを処理できるようになりました。NVIDIA は現在、さまざまなパートナーと協力してビデオ データ キュレーションをさらに強化しており、マネージド サービスとダウンロード可能なSDKの両方について、関心のある方を早期アクセス プログラムに招待しています。