Generatived（Beta）｜生成AIの最新ニュースとトレンドを提供

NVIDIAは、デスクトップシステムにおけるメモリ制限やソフトウェアアクセスの問題に直面しているAI開発者のニーズに応えるために設計されたコンパクトなスーパーコンピュータ、DGX Sparkを発表しました。DGX Sparkは、1ペタフロップスのFP4 AIコンピューティング性能、128GBのシステムメモリ、そして273GB/秒のメモリ帯域幅を誇ります。NVIDIA AIソフトウェアスタックがプリインストールされているため、開発者はクラウドやデータセンターのリソースに依存せずに、大規模で計算負荷の高いタスクをローカルで処理できます。

NVIDIAは、大量のメモリを必要とするAIモデルのファインチューニングにおいて、DGX Sparkの性能を実証しました。ベンチマークテストでは、Llama 3.2Bモデルのファインチューニング時に最大82,739.2トークン/秒という驚異的なパフォーマンスが示されました。このようなメモリ負荷の高いワークロードは、標準的な32GBのコンシューマー向けGPUでは実現不可能であり、DGX Sparkの優れた処理能力が際立っています。

DGX Sparkは画像生成にも優れており、高解像度・高精度のモデルをサポートしています。システムの大容量GPUメモリと演算性能により、詳細な画像を高速に作成することが可能です。Flux.1 12Bモデルを用いてFP4精度で1K画像を2.6秒ごとに生成できます。

データサイエンス分野では、DGX SparkはcuMLやcuDFなどのNVIDIA CUDA-Xライブラリを活用し、機械学習アルゴリズムとデータ分析タスクを高速化します。システムは250MBのデータセットをわずか数秒で処理でき、演算負荷の高いアルゴリズムを効率的に処理できることが実証されています。

推論ワークロード向けに、DGX SparkのBlackwell GPUは、FP8に近い精度を1%未満の劣化で実現するNVFP4を含む、様々な4ビットデータ形式をサポートしています。これにより、精度を損なうことなくより小規模なモデルを使用でき、全体的なパフォーマンスが向上します。1ペタフロップスのAI性能により、迅速な処理と初回応答トークンの取得までの時間が短縮され、ユーザーエクスペリエンスとスループットが向上します。

NVIDIA の DGX Spark は、AI 開発者にとって大きな進歩であり、クラウドやデータセンターへの依存に代わる強力な選択肢を提供します。微調整、画像生成、データサイエンス、推論ワークロードにおける優れたパフォーマンスは、AI 研究と応用の限界を押し広げようとする開発者にとって貴重なツールとなります。