Generatived（Beta）｜生成AIの最新ニュースとトレンドを提供
%20(1).webp)
NVIDIAがエージェントAI基盤強化
Generatived
26/5/8 9:00
NVIDIA（米カリフォルニア州）は、生成AIがチャットボット中心の利用から、自律的にツールやサブエージェントを活用する「Agentic AI」へ移行しているとの分析を公表した。トークン消費量や長文コンテキスト需要が急増しているという。
同社によると、エージェント型AIは従来型チャット比で最大15倍のトークンを消費するケースがある。複数のツール呼び出しやサブエージェント処理、コンテキスト圧縮などが加わることで、推論コストやレイテンシー要件が大幅に高まるとしている。
また、長大なコンテキスト処理を支える基盤として「Vera Rubin NVL72」や「Groq 3 LPX」、NVLink 6、BlueField-4などを組み合わせた極限協調設計（Extreme Co-Design）戦略を紹介した。大規模MoEモデル向け推論効率改善を狙う。
さらに、DynamoやTRT-LLM WideEP、Speculative Decodingなどのソフトウェア群も公開した。400Kコンテキスト規模でも毎秒400超のトークン生成性能を目指し、エージェントAIの実用化加速につなげる考えを示した。
最新のニュース
%20(1).webp)
OpenAIがGPT-6高速版
26/10/5 7:00
OpenAI（米国サンフランシスコ）は、NVIDIAのBlackwellグラフィックス処理装置上で動作するAIモデル『GPT-6 Astra Ultrafast』の提供を開始した。
%20(1).webp)
NVIDIAが映像解析基盤
26/10/5 7:00
NVIDIA（米国カリフォルニア州）は、動画検索・要約基盤の最新版『Metropolis Blueprint for Video Search and Summarization (VSS) 3.3』を発表した。
%20(1).webp)
NVIDIAがデスクトップ基盤
26/10/5 7:00
NVIDIA（米国カリフォルニア州）は、パーソナルAIスーパーコンピュータ『NVIDIA DGX Spark』の新たな構成として64GBユニファイドメモリ搭載モデルを発表した。
%20(1).webp)
Copyright © 2024 Generatived - All right Reserved.
ニュース
フォローをお願いします
言語
Generatived は、Generative AIに特化した情報やトレンドをお届けするサービスです。大きく変わりゆく世界の情報を全力でお届けします。
Generatived は、Generative AIに特化した情報やトレンドをお届けするサービスです。大きく変わりゆく世界の情報を全力でお届けします。
フォローをお願いします
言語
最新のニュース
OpenAIがGPT-6高速版
26/10/5 7:00
OpenAI（米国サンフランシスコ）は、NVIDIAのBlackwellグラフィックス処理装置上で動作するAIモデル『GPT-6 Astra Ultrafast』の提供を開始した。
NVIDIAが映像解析基盤
26/10/5 7:00
NVIDIA（米国カリフォルニア州）は、動画検索・要約基盤の最新版『Metropolis Blueprint for Video Search and Summarization (VSS) 3.3』を発表した。
NVIDIAがデスクトップ基盤
26/10/5 7:00
NVIDIA（米国カリフォルニア州）は、パーソナルAIスーパーコンピュータ『NVIDIA DGX Spark』の新たな構成として64GBユニファイドメモリ搭載モデルを発表した。