top of page

Generatived(Beta)|生成AIの最新ニュースとトレンドを提供

logo.png

NVIDIAがDynoSimで推論最適化加速

Generatived

26/6/2 0:00

NVIDIA(米カリフォルニア州サンタクララ)は、大規模言語モデル向け推論基盤「Dynamo」の挙動を再現するシミュレーション環境「DynoSim」を公開した。実機検証前に構成やアルゴリズムを評価できる仕組みとして位置付けられている。

DynoSimは、ルーターやプランナー、KVキャッシュ管理など推論基盤を構成する要素を単一の仮想タイムライン上で再現する。離散イベントシミュレーションを活用し、実運用に近いワークロードを高速に解析できるという。

同社によると、Mooncakeトレースの2万3608件のリクエストを対象とした実験では、約60分間の推論処理をApple M4搭載端末上で2.41秒で再現した。実時間比で約1500倍の速度で評価を実施できたとしている。

また、ルーティング手法やKVキャッシュ管理、オートスケーリング設定などをシミュレーション上で比較可能という。将来的には本番環境のトラフィックデータを活用し、最適な推論構成を継続的に探索する仕組みの実現を目指すとしている。

この記事を共有:

最新のニュース
みずほFGとNECがAI認証基盤実証開始

みずほFGとNECがAI認証基盤実証開始

26/6/2 0:00

みずほフィナンシャルグループ(東京都千代田区)とNECは、AIエージェントが自律的に金融サービスを利用する「Agentic Finance」時代を見据え、AIエージェント認証基盤「KYA(Know Your Agent)」の共同実証実験を2026年6月から開始すると発表した。

AWS活用で2C2Pが決済基盤とAI強化

AWS活用で2C2Pが決済基盤とAI強化

26/6/2 0:00

2C2P(シンガポール)は、東南アジアの決済プラットフォーム事業の基盤としてAWSを活用し、地域全体で数百万件規模の日次取引を支えるとともに、生成AIを活用したソフトウェア開発の高度化を進めていると発表した。

GoogleがGemini Omniと3.5 Flash発表

GoogleがGemini Omniと3.5 Flash発表

26/6/2 0:00

Google(米カリフォルニア州)は、Google I/O 2026で新たなAIモデル「Gemini Omni」と「Gemini 3.5」ファミリーを発表した。

AWSとBig CがAI買い物支援導入

AWSとBig CがAI買い物支援導入

26/6/2 0:00

Amazon Web Services(米ワシントン州)は、タイ大手小売チェーンのBig CがAWS上に構築したAI搭載ショッピングアシスタントを導入したと発表した。

Copyright © 2024 Generatived - All right Reserved.

この記事を共有:

この記事を共有:

Generatived AI Logo

Generatived は、Generative AIに特化した情報やトレンドをお届けするサービスです。大きく変わりゆく世界の情報を全力でお届けします。

  • Facebook
  • X

フォローをお願いします

言語

最新のニュース
みずほFGとNECがAI認証基盤実証開始

みずほFGとNECがAI認証基盤実証開始

26/6/2 0:00

みずほフィナンシャルグループ(東京都千代田区)とNECは、AIエージェントが自律的に金融サービスを利用する「Agentic Finance」時代を見据え、AIエージェント認証基盤「KYA(Know Your Agent)」の共同実証実験を2026年6月から開始すると発表した。

AWS活用で2C2Pが決済基盤とAI強化

AWS活用で2C2Pが決済基盤とAI強化

26/6/2 0:00

2C2P(シンガポール)は、東南アジアの決済プラットフォーム事業の基盤としてAWSを活用し、地域全体で数百万件規模の日次取引を支えるとともに、生成AIを活用したソフトウェア開発の高度化を進めていると発表した。

GoogleがGemini Omniと3.5 Flash発表

GoogleがGemini Omniと3.5 Flash発表

26/6/2 0:00

Google(米カリフォルニア州)は、Google I/O 2026で新たなAIモデル「Gemini Omni」と「Gemini 3.5」ファミリーを発表した。

AWSとBig CがAI買い物支援導入

AWSとBig CがAI買い物支援導入

26/6/2 0:00

Amazon Web Services(米ワシントン州)は、タイ大手小売チェーンのBig CがAWS上に構築したAI搭載ショッピングアシスタントを導入したと発表した。

bottom of page