top of page

Generatived(Beta)|生成AIの最新ニュースとトレンドを提供

logo.png

NVIDIA、Dynamo Snapshot公開

Generatived

26/6/2 0:00

NVIDIA(米国カリフォルニア州サンタクララ)は、Kubernetes上のAI推論ワークロードの起動時間短縮を目的とした「Dynamo Snapshot」の技術概要を公開した。推論環境のチェックポイントと復元を活用し、コールドスタートの課題解消を目指すという。

同社によると、GPU側の状態はCUDAのチェックポイント機能で保存し、CPU側のプロセス状態はCRIUを用いて記録する仕組みを採用した。Kubernetes環境では専用エージェントがコンテナ単位でチェックポイントと復元を実行するとされる。

さらに、未使用のKVキャッシュ領域を解放して保存容量を削減するほか、CRIUの復元処理を並列化する独自最適化を実施した。これにより大規模モデルの復元速度が大幅に向上し、従来のコールドスタートを上回る性能を確認したという。

加えて、GPU Memory Service(GMS)を開発し、モデル重みをプロセス状態から分離して管理する方式も導入した。実証環境ではgpt-oss-120Bモデルの起動時間を最大21倍短縮し、5秒未満での復元を達成したと報告している。

この記事を共有:

最新のニュース
みずほFGとNECがAI認証基盤実証開始

みずほFGとNECがAI認証基盤実証開始

26/6/2 0:00

みずほフィナンシャルグループ(東京都千代田区)とNECは、AIエージェントが自律的に金融サービスを利用する「Agentic Finance」時代を見据え、AIエージェント認証基盤「KYA(Know Your Agent)」の共同実証実験を2026年6月から開始すると発表した。

AWS活用で2C2Pが決済基盤とAI強化

AWS活用で2C2Pが決済基盤とAI強化

26/6/2 0:00

2C2P(シンガポール)は、東南アジアの決済プラットフォーム事業の基盤としてAWSを活用し、地域全体で数百万件規模の日次取引を支えるとともに、生成AIを活用したソフトウェア開発の高度化を進めていると発表した。

GoogleがGemini Omniと3.5 Flash発表

GoogleがGemini Omniと3.5 Flash発表

26/6/2 0:00

Google(米カリフォルニア州)は、Google I/O 2026で新たなAIモデル「Gemini Omni」と「Gemini 3.5」ファミリーを発表した。

AWSとBig CがAI買い物支援導入

AWSとBig CがAI買い物支援導入

26/6/2 0:00

Amazon Web Services(米ワシントン州)は、タイ大手小売チェーンのBig CがAWS上に構築したAI搭載ショッピングアシスタントを導入したと発表した。

Copyright © 2024 Generatived - All right Reserved.

この記事を共有:

この記事を共有:

Generatived AI Logo

Generatived は、Generative AIに特化した情報やトレンドをお届けするサービスです。大きく変わりゆく世界の情報を全力でお届けします。

  • Facebook
  • X

フォローをお願いします

言語

最新のニュース
みずほFGとNECがAI認証基盤実証開始

みずほFGとNECがAI認証基盤実証開始

26/6/2 0:00

みずほフィナンシャルグループ(東京都千代田区)とNECは、AIエージェントが自律的に金融サービスを利用する「Agentic Finance」時代を見据え、AIエージェント認証基盤「KYA(Know Your Agent)」の共同実証実験を2026年6月から開始すると発表した。

AWS活用で2C2Pが決済基盤とAI強化

AWS活用で2C2Pが決済基盤とAI強化

26/6/2 0:00

2C2P(シンガポール)は、東南アジアの決済プラットフォーム事業の基盤としてAWSを活用し、地域全体で数百万件規模の日次取引を支えるとともに、生成AIを活用したソフトウェア開発の高度化を進めていると発表した。

GoogleがGemini Omniと3.5 Flash発表

GoogleがGemini Omniと3.5 Flash発表

26/6/2 0:00

Google(米カリフォルニア州)は、Google I/O 2026で新たなAIモデル「Gemini Omni」と「Gemini 3.5」ファミリーを発表した。

AWSとBig CがAI買い物支援導入

AWSとBig CがAI買い物支援導入

26/6/2 0:00

Amazon Web Services(米ワシントン州)は、タイ大手小売チェーンのBig CがAWS上に構築したAI搭載ショッピングアシスタントを導入したと発表した。

bottom of page