Generatived（Beta）｜生成AIの最新ニュースとトレンドを提供

NVIDIA（米国カリフォルニア州サンタクララ）は、Kubernetes上のAI推論ワークロードの起動時間短縮を目的とした「Dynamo Snapshot」の技術概要を公開した。推論環境のチェックポイントと復元を活用し、コールドスタートの課題解消を目指すという。

同社によると、GPU側の状態はCUDAのチェックポイント機能で保存し、CPU側のプロセス状態はCRIUを用いて記録する仕組みを採用した。Kubernetes環境では専用エージェントがコンテナ単位でチェックポイントと復元を実行するとされる。

さらに、未使用のKVキャッシュ領域を解放して保存容量を削減するほか、CRIUの復元処理を並列化する独自最適化を実施した。これにより大規模モデルの復元速度が大幅に向上し、従来のコールドスタートを上回る性能を確認したという。

加えて、GPU Memory Service（GMS）を開発し、モデル重みをプロセス状態から分離して管理する方式も導入した。実証環境ではgpt-oss-120Bモデルの起動時間を最大21倍短縮し、5秒未満での復元を達成したと報告している。