top of page

Generatived(Beta)|生成AIの最新ニュースとトレンドを提供

logo.png

NVIDIA、DiffusionGemma高速化支援

Generatived

26/6/19 9:00

NVIDIA(米国カリフォルニア州サンタクララ)は、Google DeepMindが公開した実験的オープンモデル「DiffusionGemma」の最適化を進め、RTX GPUやRTX PRO、DGX Spark環境で高速動作を実現したと発表した。

同モデルは従来の大規模言語モデルのように単語を逐次生成するのではなく、最大256トークンを並列生成する拡散方式を採用する。Gemma 4をベースとした26B Mixture of Experts構成で、推論時には3.8Bパラメータのみを活性化するという。

NVIDIAによると、DiffusionGemmaは単一ユーザー環境において従来方式比で最大4倍の生成速度を実現する。H100では毎秒1,000トークン、DGX Stationでは最大毎秒2,000トークンに達し、対話型AIやエージェント用途で低遅延な応答が可能になるとしている。

同モデルはApache 2.0ライセンスで公開されており、Hugging Face TransformersやvLLM、Unsloth、NeMoなど主要な開発環境で利用可能となる。RTX PROやGeForce RTX、DGX Sparkなど幅広いプラットフォームでローカル実行を支援するとした。

この記事を共有:

最新のニュース
OpenAIがGPT-6高速版

OpenAIがGPT-6高速版

26/10/5 7:00

OpenAI(米国サンフランシスコ)は、NVIDIAのBlackwellグラフィックス処理装置上で動作するAIモデル『GPT-6 Astra Ultrafast』の提供を開始した。

NVIDIAが映像解析基盤

NVIDIAが映像解析基盤

26/10/5 7:00

NVIDIA(米国カリフォルニア州)は、動画検索・要約基盤の最新版『Metropolis Blueprint for Video Search and Summarization (VSS) 3.3』を発表した。

NVIDIAがデスクトップ基盤

NVIDIAがデスクトップ基盤

26/10/5 7:00

NVIDIA(米国カリフォルニア州)は、パーソナルAIスーパーコンピュータ『NVIDIA DGX Spark』の新たな構成として64GBユニファイドメモリ搭載モデルを発表した。

NVIDIAがAI工場投資効果

NVIDIAがAI工場投資効果

26/10/5 7:00

NVIDIA(米国カリフォルニア州)は、メガワット級で構築されるAI工場の投資収益率(ROI)を最大化する設計戦略を公表した。

Copyright © 2024 Generatived - All right Reserved.

この記事を共有:

この記事を共有:

Generatived AI Logo

Generatived は、Generative AIに特化した情報やトレンドをお届けするサービスです。大きく変わりゆく世界の情報を全力でお届けします。

  • Facebook
  • X

フォローをお願いします

言語

最新のニュース
OpenAIがGPT-6高速版

OpenAIがGPT-6高速版

26/10/5 7:00

OpenAI(米国サンフランシスコ)は、NVIDIAのBlackwellグラフィックス処理装置上で動作するAIモデル『GPT-6 Astra Ultrafast』の提供を開始した。

NVIDIAが映像解析基盤

NVIDIAが映像解析基盤

26/10/5 7:00

NVIDIA(米国カリフォルニア州)は、動画検索・要約基盤の最新版『Metropolis Blueprint for Video Search and Summarization (VSS) 3.3』を発表した。

NVIDIAがデスクトップ基盤

NVIDIAがデスクトップ基盤

26/10/5 7:00

NVIDIA(米国カリフォルニア州)は、パーソナルAIスーパーコンピュータ『NVIDIA DGX Spark』の新たな構成として64GBユニファイドメモリ搭載モデルを発表した。

NVIDIAがAI工場投資効果

NVIDIAがAI工場投資効果

26/10/5 7:00

NVIDIA(米国カリフォルニア州)は、メガワット級で構築されるAI工場の投資収益率(ROI)を最大化する設計戦略を公表した。

bottom of page