Generatived（Beta）｜生成AIの最新ニュースとトレンドを提供
%20(1).webp)
NVIDIA、Dynamo Snapshot公開
Generatived
26/6/2 0:00
NVIDIA（米国カリフォルニア州サンタクララ）は、Kubernetes上のAI推論ワークロードの起動時間短縮を目的とした「Dynamo Snapshot」の技術概要を公開した。推論環境のチェックポイントと復元を活用し、コールドスタートの課題解消を目指すという。
同社によると、GPU側の状態はCUDAのチェックポイント機能で保存し、CPU側のプロセス状態はCRIUを用いて記録する仕組みを採用した。Kubernetes環境では専用エージェントがコンテナ単位でチェックポイントと復元を実行するとされる。
さらに、未使用のKVキャッシュ領域を解放して保存容量を削減するほか、CRIUの復元処理を並列化する独自最適化を実施した。これにより大規模モデルの復元速度が大幅に向上し、従来のコールドスタートを上回る性能を確認したという。
加えて、GPU Memory Service（GMS）を開発し、モデル重みをプロセス状態から分離して管理する方式も導入した。実証環境ではgpt-oss-120Bモデルの起動時間を最大21倍短縮し、5秒未満での復元を達成したと報告している。
最新のニュース
NVIDIAがDynoSimで推論最適化加速
26/6/2 0:00
NVIDIA（米カリフォルニア州サンタクララ）は、大規模言語モデル向け推論基盤「Dynamo」の挙動を再現するシミュレーション環境「DynoSim」を公開した。
%20(1).webp)
NVIDIAがAIモデル文書化を自動化
26/6/2 0:00
NVIDIA（米カリフォルニア州サンタクララ）は、AIモデル向け文書作成を自動化する「Model Card Generator（MCG） Toolkit」を発表した。
Copyright © 2024 Generatived - All right Reserved.
ニュース
フォローをお願いします
言語
Generatived は、Generative AIに特化した情報やトレンドをお届けするサービスです。大きく変わりゆく世界の情報を全力でお届けします。
Generatived は、Generative AIに特化した情報やトレンドをお届けするサービスです。大きく変わりゆく世界の情報を全力でお届けします。
フォローをお願いします
言語
最新のニュース
NVIDIAがDynoSimで推論最適化加速
26/6/2 0:00
NVIDIA（米カリフォルニア州サンタクララ）は、大規模言語モデル向け推論基盤「Dynamo」の挙動を再現するシミュレーション環境「DynoSim」を公開した。
NVIDIAがAIモデル文書化を自動化
26/6/2 0:00
NVIDIA（米カリフォルニア州サンタクララ）は、AIモデル向け文書作成を自動化する「Model Card Generator（MCG） Toolkit」を発表した。