Generatived(Beta)|生成AIの最新ニュースとトレンドを提供
%20(1).webp)
NVIDIA、DiffusionGemma高速化支援
Generatived
26/6/19 0:00
NVIDIA(米国カリフォルニア州サンタクララ)は、Google DeepMindが公開した実験的オープンモデル「DiffusionGemma」の最適化を進め、RTX GPUやRTX PRO、DGX Spark環境で高速動作を実現したと発表した。
同モデルは従来の大規模言語モデルのように単語を逐次生成するのではなく、最大256トークンを並列生成する拡散方式を採用する。Gemma 4をベースとした26B Mixture of Experts構成で、推論時には3.8Bパラメータのみを活性化するという。
NVIDIAによると、DiffusionGemmaは単一ユーザー環境において従来方式比で最大4倍の生成速度を実現する。H100では毎秒1,000トークン、DGX Stationでは最大毎秒2,000トークンに達し、対話型AIやエージェント用途で低遅延な応答が可能になるとしている。
同モデルはApache 2.0ライセンスで公開されており、Hugging Face TransformersやvLLM、Unsloth、NeMoなど主要な開発環境で利用可能となる。RTX PROやGeForce RTX、DGX Sparkなど幅広いプラットフォームでローカル実行を支援するとした。
最新のニュース
Microsoft、Claude Fable 5提供開始
26/6/19 0:00
Microsoft(米国ワシントン州レドモンド)は、Anthropicの最新AIモデル「Claude Fable 5」の提供をMicrosoft Foundryで開始した。
Google、DiffusionGemma公開
26/6/19 0:00
Google(米国カリフォルニア州マウンテンビュー)は、テキスト生成向けの実験的オープンモデル「DiffusionGemma」を公開した。
Copyright © 2024 Generatived - All right Reserved.
ニュース
Generatived は、Generative AIに特化した情報やトレンドをお届けするサービスです。大きく変わりゆく世界の情報を全力でお届けします。
最新のニュース
Microsoft、Claude Fable 5提供開始
26/6/19 0:00
Microsoft(米国ワシントン州レドモンド)は、Anthropicの最新AIモデル「Claude Fable 5」の提供をMicrosoft Foundryで開始した。
Google、DiffusionGemma公開
26/6/19 0:00
Google(米国カリフォルニア州マウンテンビュー)は、テキスト生成向けの実験的オープンモデル「DiffusionGemma」を公開した。






