top of page

Generatived(Beta)|生成AIの最新ニュースとトレンドを提供

logo.png

NVIDIAがモデル設計指指針を提示

Generatived

26/8/7 14:00

NVIDIA(カリフォルニア州サンタクララ)は、生成モデルにおけるアテンション機構の設計最適化指針を公表したと報じられている。コンテキスト長の延伸に伴い処理負荷が増大する現状に対応し、アクセラレータの実行特性に合わせたアーキテクチャ設計手法を提示したとされる。

同報告では、デコード処理の高速化に向けたグループサイズの集約や、演算タイルの配置効率を高めるヘッド次元の設定が効果的であると言及されている。計算資源の制約に対応するため、処理工程ごとのボトルネックを低減する設計の適用が推奨されている模様だ。

また、複数アクセラレータへの分散処理においては、キー・バリューヘッド数に応じた並列化手法の選択が性能向上に寄与すると伝えられている。これらの一体設計アプローチにより、推論速度とスループットの向上が期待されている。

この記事を共有:

最新のニュース
OpenAIがGPT-6高速版

OpenAIがGPT-6高速版

26/10/5 7:00

OpenAI(米国サンフランシスコ)は、NVIDIAのBlackwellグラフィックス処理装置上で動作するAIモデル『GPT-6 Astra Ultrafast』の提供を開始した。

NVIDIAが映像解析基盤

NVIDIAが映像解析基盤

26/10/5 7:00

NVIDIA(米国カリフォルニア州)は、動画検索・要約基盤の最新版『Metropolis Blueprint for Video Search and Summarization (VSS) 3.3』を発表した。

NVIDIAがデスクトップ基盤

NVIDIAがデスクトップ基盤

26/10/5 7:00

NVIDIA(米国カリフォルニア州)は、パーソナルAIスーパーコンピュータ『NVIDIA DGX Spark』の新たな構成として64GBユニファイドメモリ搭載モデルを発表した。

NVIDIAがAI工場投資効果

NVIDIAがAI工場投資効果

26/10/5 7:00

NVIDIA(米国カリフォルニア州)は、メガワット級で構築されるAI工場の投資収益率(ROI)を最大化する設計戦略を公表した。

Copyright © 2024 Generatived - All right Reserved.

この記事を共有:

この記事を共有:

Generatived AI Logo

Generatived は、Generative AIに特化した情報やトレンドをお届けするサービスです。大きく変わりゆく世界の情報を全力でお届けします。

  • Facebook
  • X

フォローをお願いします

言語

最新のニュース
OpenAIがGPT-6高速版

OpenAIがGPT-6高速版

26/10/5 7:00

OpenAI(米国サンフランシスコ)は、NVIDIAのBlackwellグラフィックス処理装置上で動作するAIモデル『GPT-6 Astra Ultrafast』の提供を開始した。

NVIDIAが映像解析基盤

NVIDIAが映像解析基盤

26/10/5 7:00

NVIDIA(米国カリフォルニア州)は、動画検索・要約基盤の最新版『Metropolis Blueprint for Video Search and Summarization (VSS) 3.3』を発表した。

NVIDIAがデスクトップ基盤

NVIDIAがデスクトップ基盤

26/10/5 7:00

NVIDIA(米国カリフォルニア州)は、パーソナルAIスーパーコンピュータ『NVIDIA DGX Spark』の新たな構成として64GBユニファイドメモリ搭載モデルを発表した。

NVIDIAがAI工場投資効果

NVIDIAがAI工場投資効果

26/10/5 7:00

NVIDIA(米国カリフォルニア州)は、メガワット級で構築されるAI工場の投資収益率(ROI)を最大化する設計戦略を公表した。

bottom of page