Generatived（Beta）｜生成AIの最新ニュースとトレンドを提供

NVIDIAのGPUは、ビジョンAIワークロードの最適化にますます利用されていますが、計算スループットの向上に伴い、従来のデータパイプラインでは対応が困難になっています。このミスマッチは、アクセラレータがデータを待機するGPUスターベーションにつながる可能性があります。これに対処するには、高性能ハードウェアの速度に追いつく、よりスマートなデータパイプラインが必要です。

NVIDIAは、並列計算用に設計されたコーデックであるSMPTE VC-6のCUDAアクセラレーション実装を導入することで、ビジョンAIアプリケーションの効率向上を目指しています。階層型マルチ解像度や選択的デコードといったVC-6の機能は、GPUの並列処理特性と整合しています。これにより、圧縮データからモデル対応テンソルへのより直接的なパスが可能になり、CPUやOpenCL実装よりもパフォーマンスが向上します。

SMPTE VC-6は、画像をマルチ解像度階層でエンコードするビデオコーディング規格であり、GPUとの効率的なやり取りを可能にします。この構造により、選択的なデータ転送とデコードが可能になり、I/O、帯域幅、メモリ使用量が削減されます。 VC-6 は必要なデータのみを取得・デコードすることでスループットを最大化し、効率性が極めて重要な AI パイプラインに特に適しています。

NVIDIA と V-Nova は、AI エコシステムの標準である CUDA 向けに VC-6 を最適化すべく協力してきました。VC-6 の CUDA 実装は、オーバーヘッドの最小化、CUDA Tensor エコシステムとの相互運用性の向上、高度なプロファイリングツールの利用など、様々な利点をもたらします。VC-6 CUDA パスのアルファ版では大幅なパフォーマンス向上が見られ、さらなる最適化によって効率性の向上が期待されます。