top of page
Generatived(Beta)|生成AIの最新ニュースとトレンドを提供
%20(1).webp)
NVIDIA、DiffusionGemma高速化支援
Generatived
26/6/19 0:00
NVIDIA(米国カリフォルニア州サンタクララ)は、Google DeepMindが公開した実験的オープンモデル「DiffusionGemma」の最適化を進め、RTX GPUやRTX PRO、DGX Spark環境で高速動作を実現したと発表した。
同モデルは従来の大規模言語モデルのように単語を逐次生成するのではなく、最大256トークンを並列生成する拡散方式を採用する。Gemma 4をベースとした26B Mixture of Experts構成で、推論時には3.8Bパラメータのみを活性化するという。
NVIDIAによると、DiffusionGemmaは単一ユーザー環境において従来方式比で最大4倍の生成速度を実現する。H100では毎秒1,000トークン、DGX Stationでは最大毎秒2,000トークンに達し、対話型AIやエージェント用途で低遅延な応答が可能になるとしている。
同モデルはApache 2.0ライセンスで公開されており、Hugging Face TransformersやvLLM、Unsloth、NeMoなど主要な開発環境で利用可能となる。RTX PROやGeForce RTX、DGX Sparkなど幅広いプラットフォームでローカル実行を支援するとした。

