Generatived(Beta)|生成AIの最新ニュースとトレンドを提供
%20(1).webp)
NVIDIA、DiffusionGemma高速化支援
Generatived
26/6/19 0:00
NVIDIA(米国カリフォルニア州サンタクララ)は、Google DeepMindが公開した実験的オープンモデル「DiffusionGemma」の最適化を進め、RTX GPUやRTX PRO、DGX Spark環境で高速動作を実現したと発表した。
同モデルは従来の大規模言語モデルのように単語を逐次生成するのではなく、最大256トークンを並列生成する拡散方式を採用する。Gemma 4をベースとした26B Mixture of Experts構成で、推論時には3.8Bパラメータのみを活性化するという。
NVIDIAによると、DiffusionGemmaは単一ユーザー環境において従来方式比で最大4倍の生成速度を実現する。H100では毎秒1,000トークン、DGX Stationでは最大毎秒2,000トークンに達し、対話型AIやエージェント用途で低遅延な応答が可能になるとしている。
同モデルはApache 2.0ライセンスで公開されており、Hugging Face TransformersやvLLM、Unsloth、NeMoなど主要な開発環境で利用可能となる。RTX PROやGeForce RTX、DGX Sparkなど幅広いプラットフォームでローカル実行を支援するとした。
最新のニュース
Google、Gemma 4 12Bを公開 音声対応
26/6/11 0:00
Google(米カリフォルニア州マウンテンビュー)は、マルチモーダルAIモデル「Gemma 4 12B」を発表したと明らかにした。
NVIDIA、TensorRTでCLIP推論高速化
26/6/11 0:00
NVIDIA(米カリフォルニア州サンタクララ)は、量子化済みのCLIPモデルをNVIDIA TensorRT向けに変換し、本番環境での推論性能を向上させる手法を紹介したと発表した。
Copyright © 2024 Generatived - All right Reserved.
ニュース
Generatived は、Generative AIに特化した情報やトレンドをお届けするサービスです。大きく変わりゆく世界の情報を全力でお届けします。
最新のニュース
Google、Gemma 4 12Bを公開 音声対応
26/6/11 0:00
Google(米カリフォルニア州マウンテンビュー)は、マルチモーダルAIモデル「Gemma 4 12B」を発表したと明らかにした。
NVIDIA、TensorRTでCLIP推論高速化
26/6/11 0:00
NVIDIA(米カリフォル ニア州サンタクララ)は、量子化済みのCLIPモデルをNVIDIA TensorRT向けに変換し、本番環境での推論性能を向上させる手法を紹介したと発表した。

%20(1).webp)




