top of page

Generatived(Beta)|生成AIの最新ニュースとトレンドを提供

logo.png

NVIDIAがエージェントAI基盤強化

Generatived

26/5/8 0:00

NVIDIA(米カリフォルニア州)は、生成AIがチャットボット中心の利用から、自律的にツールやサブエージェントを活用する「Agentic AI」へ移行しているとの分析を公表した。トークン消費量や長文コンテキスト需要が急増しているという。

同社によると、エージェント型AIは従来型チャット比で最大15倍のトークンを消費するケースがある。複数のツール呼び出しやサブエージェント処理、コンテキスト圧縮などが加わることで、推論コストやレイテンシー要件が大幅に高まるとしている。

また、長大なコンテキスト処理を支える基盤として「Vera Rubin NVL72」や「Groq 3 LPX」、NVLink 6、BlueField-4などを組み合わせた極限協調設計(Extreme Co-Design)戦略を紹介した。大規模MoEモデル向け推論効率改善を狙う。

さらに、DynamoやTRT-LLM WideEP、Speculative Decodingなどのソフトウェア群も公開した。400Kコンテキスト規模でも毎秒400超のトークン生成性能を目指し、エージェントAIの実用化加速につなげる考えを示した。

この記事を共有:

最新のニュース
Microsoft、CISO向けリスク管理提言

Microsoft、CISO向けリスク管理提言

26/5/1 0:00

Microsoft(米ワシントン州レドモンド)は、副CISOのRico Mariani氏によるブログで、AI時代におけるサイバー脅威の拡大を背景に、企業向けのリスクレビュー手法を解説したと発表した。

NVIDIA、AI基盤構築指針を拡充

NVIDIA、AI基盤構築指針を拡充

26/5/1 0:00

NVIDIA(米カリフォルニア州サンタクララ)は、企業向けAI基盤の構築を支援する「NVIDIA Enterprise Reference Architectures(Enterprise RAs)」とAIファクトリー構成の詳細を公開した。

OpenAI、Stargate拡張加速

OpenAI、Stargate拡張加速

26/5/1 0:00

OpenAI(米カリフォルニア州サンフランシスコ)は、AIインフラ構想「Stargate」において、2029年までに米国内で10GW規模の計算基盤確保を目指す計画を前倒しで進め、直近90日間で3GW超の新容量を追加したと明らかにした。

ソースネクスト AutoMemo強化

ソースネクスト AutoMemo強化

26/5/1 0:00

ソースネクスト(東京都千代田区)は、AI議事録サービス「AutoMemo」のクラウド連携機能を4月30日に刷新したと発表した。

Copyright © 2024 Generatived - All right Reserved.

この記事を共有:

この記事を共有:

Generatived AI Logo

Generatived は、Generative AIに特化した情報やトレンドをお届けするサービスです。大きく変わりゆく世界の情報を全力でお届けします。

  • Facebook
  • X

フォローをお願いします

言語

最新のニュース
Microsoft、CISO向けリスク管理提言

Microsoft、CISO向けリスク管理提言

26/5/1 0:00

Microsoft(米ワシントン州レドモンド)は、副CISOのRico Mariani氏によるブログで、AI時代におけるサイバー脅威の拡大を背景に、企業向けのリスクレビュー手法を解説したと発表した。

NVIDIA、AI基盤構築指針を拡充

NVIDIA、AI基盤構築指針を拡充

26/5/1 0:00

NVIDIA(米カリフォルニア州サンタクララ)は、企業向けAI基盤の構築を支援する「NVIDIA Enterprise Reference Architectures(Enterprise RAs)」とAIファクトリー構成の詳細を公開した。

OpenAI、Stargate拡張加速

OpenAI、Stargate拡張加速

26/5/1 0:00

OpenAI(米カリフォルニア州サンフランシスコ)は、AIインフラ構想「Stargate」において、2029年までに米国内で10GW規模の計算基盤確保を目指す計画を前倒しで進め、直近90日間で3GW超の新容量を追加したと明らかにした。

ソースネクスト AutoMemo強化

ソースネクスト AutoMemo強化

26/5/1 0:00

ソースネクスト(東京都千代田区)は、AI議事録サービス「AutoMemo」のクラウド連携機能を4月30日に刷新したと発表した。

bottom of page