Generatived（Beta）｜生成AIの最新ニュースとトレンドを提供
%20(1).webp)
NVIDIA、Dynamo Snapshot公開
Generatived
26/6/2 0:00
NVIDIA（米国カリフォルニア州サンタクララ）は、Kubernetes上のAI推論ワークロードの起動時間短縮を目的とした「Dynamo Snapshot」の技術概要を公開した。推論環境のチェックポイントと復元を活用し、コールドスタートの課題解消を目指すという。
同社によると、GPU側の状態はCUDAのチェックポイント機能で保存し、CPU側のプロセス状態はCRIUを用いて記録する仕組みを採用した。Kubernetes環境では専用エージェントがコンテナ単位でチェックポイントと復元を実行するとされる。
さらに、未使用のKVキャッシュ領域を解放して保存容量を削減するほか、CRIUの復元処理を並列化する独自最適化を実施した。これにより大規模モデルの復元速度が大幅に向上し、従来のコールドスタートを上回る性能を確認したという。
加えて、GPU Memory Service（GMS）を開発し、モデル重みをプロセス状態から分離して管理する方式も導入した。実証環境ではgpt-oss-120Bモデルの起動時間を最大21倍短縮し、5秒未満での復元を達成したと報告している。
最新のニュース
%20(1).webp)
GoogleがI/Oで次世代AI群を公開
26/6/2 0:00
Google（米カリフォルニア州）は、開発者会議「Google I/O 2026」において、動画生成AI「Gemini Omni」や新世代モデル「Gemini 3.5 Flash」をはじめとする複数のAI関連サービスと製品アップデートを発表した。
%20(1).webp)
CREDがAI基盤で開発効率を大幅向上
26/6/2 0:00
CRED（インド・ベンガルール）は、社内開発基盤「CRED codelens」を構築し、コードや業務知識を統合したAI活用環境を整備したと発表した。
%20(1).webp)
THIMがAWS活用で入 国手続きを効率化
26/6/2 0:00
Digital Identity（タイ・バンコク）は、タイ入国管理局と共同開発した入国管理アプリ「THIM」がAWS上で構築されたと発表した。
Copyright © 2024 Generatived - All right Reserved.
ニュース
フォローをお願いします
言語
Generatived は、Generative AIに特化した情報やトレンドをお届けするサービスです。大きく変わりゆく世界の情報を全力でお届けします。
Generatived は、Generative AIに特化した情報やトレンドをお届けするサービスです。大きく変わりゆく世界の情報を全力でお届けします。
フォローをお願いします
言語
最新のニュース
GoogleがI/Oで次世代AI群を公開
26/6/2 0:00
Google（米カリフォルニア州）は、開発者会議「Google I/O 2026」において、動画生成AI「Gemini Omni」や新世代モデル「Gemini 3.5 Flash」をはじめとする複数のAI関連サービスと製品アップデートを発表した。
CREDがAI基盤で開発効率を大幅向上
26/6/2 0:00
CRED（インド・ベンガルール）は、社内開発基盤「CRED codelens」を構築し、コードや業務知識を統合したAI活用環境を整備したと発表した。
THIMがAWS活用で入国手続きを効率化
26/6/2 0:00
Digital Identity（タイ・バンコク）は、タイ入国管理局と共同開発した入国管理アプリ「THIM」がAWS上で構築されたと発表した。