top of page

Generatived(Beta)|生成AIの最新ニュースとトレンドを提供

logo.png

NVIDIAがDynoSimで推論最適化加速

Generatived

26/6/2 9:00

NVIDIA(米カリフォルニア州サンタクララ)は、大規模言語モデル向け推論基盤「Dynamo」の挙動を再現するシミュレーション環境「DynoSim」を公開した。実機検証前に構成やアルゴリズムを評価できる仕組みとして位置付けられている。

DynoSimは、ルーターやプランナー、KVキャッシュ管理など推論基盤を構成する要素を単一の仮想タイムライン上で再現する。離散イベントシミュレーションを活用し、実運用に近いワークロードを高速に解析できるという。

同社によると、Mooncakeトレースの2万3608件のリクエストを対象とした実験では、約60分間の推論処理をApple M4搭載端末上で2.41秒で再現した。実時間比で約1500倍の速度で評価を実施できたとしている。

また、ルーティング手法やKVキャッシュ管理、オートスケーリング設定などをシミュレーション上で比較可能という。将来的には本番環境のトラフィックデータを活用し、最適な推論構成を継続的に探索する仕組みの実現を目指すとしている。

この記事を共有:

最新のニュース
NTTデータ先端技術、AI実証実験を開始

NTTデータ先端技術、AI実証実験を開始

26/7/21 9:00

NTTデータ先端技術(千代田区)は、2026年6月に一般提供が開始されたエージェント型AI「Microsoft 365 Copilot Cowork」を活用し、営業事務業務の効率化に向けた社内実証を進めている。

playknotが業務向けAIの安全利用基準を公開

playknotが業務向けAIの安全利用基準を公開

26/7/21 9:00

playknot(東京都渋谷区)は、企業が生成AIやAIエージェントを安全に業務利用するため、「業務で使えるAI」と「機密情報の入力に注意が必要なAI」を判断する独自基準を公開したと発表した。

Superace UPDF AIをGPT-5.6へ改変

Superace UPDF AIをGPT-5.6へ改変

26/7/21 9:00

Superace Software(中国)は、オールインワンPDFソリューション「UPDF」のAI機能「UPDF AI」をGPT-5.6へアップグレードしたと発表した。

WHI Holdings、役割別のAIアドバイスを提供

WHI Holdings、役割別のAIアドバイスを提供

26/7/21 9:00

WHI Holdings(港区)は、「COMPANY Talent Management」シリーズ、「タレントデータベース」製品に、「役割別のAIキャリアアドバイス」機能を追加し、提供を開始した。

Copyright © 2024 Generatived - All right Reserved.

この記事を共有:

この記事を共有:

Generatived AI Logo

Generatived は、Generative AIに特化した情報やトレンドをお届けするサービスです。大きく変わりゆく世界の情報を全力でお届けします。

  • Facebook
  • X

フォローをお願いします

言語

最新のニュース
NTTデータ先端技術、AI実証実験を開始

NTTデータ先端技術、AI実証実験を開始

26/7/21 9:00

NTTデータ先端技術(千代田区)は、2026年6月に一般提供が開始されたエージェント型AI「Microsoft 365 Copilot Cowork」を活用し、営業事務業務の効率化に向けた社内実証を進めている。

playknotが業務向けAIの安全利用基準を公開

playknotが業務向けAIの安全利用基準を公開

26/7/21 9:00

playknot(東京都渋谷区)は、企業が生成AIやAIエージェントを安全に業務利用するため、「業務で使えるAI」と「機密情報の入力に注意が必要なAI」を判断する独自基準を公開したと発表した。

Superace UPDF AIをGPT-5.6へ改変

Superace UPDF AIをGPT-5.6へ改変

26/7/21 9:00

Superace Software(中国)は、オールインワンPDFソリューション「UPDF」のAI機能「UPDF AI」をGPT-5.6へアップグレードしたと発表した。

WHI Holdings、役割別のAIアドバイスを提供

WHI Holdings、役割別のAIアドバイスを提供

26/7/21 9:00

WHI Holdings(港区)は、「COMPANY Talent Management」シリーズ、「タレントデータベース」製品に、「役割別のAIキャリアアドバイス」機能を追加し、提供を開始した。

bottom of page