Generatived（Beta）｜生成AIの最新ニュースとトレンドを提供

NVIDIA（米カリフォルニア州）は、AIエージェント向け推論基盤「Dynamo」における推論解析やツール呼び出し機能の改善内容を公開した。Claude CodeやCodex、OpenClawなどのエージェント型クライアント運用で得られた知見をもとに、ストリーミング処理やAPI互換性を強化したという。

同社によると、Anthropic互換APIや推論・ツール呼び出し専用パーサーを導入し、推論ブロックとツール実行の順序保持を改善したとのこと。KVキャッシュ再利用を阻害するセッション固有ヘッダーを除去する機能も追加され、Time To First Tokenの大幅短縮につながったとされる。

また、AIエージェントの推論履歴保持方法についても、モデルごとに異なる振る舞いへ対応したという。ツール呼び出し前後の推論内容を維持することで、複雑なエージェント処理における整合性や応答品質の向上を図ったとしている。

さらに、Dynamoではストリーミング中にツール呼び出し完了を通知する"tool_call_dispatch"イベントを追加。外部ハーネス側での解析負荷を抑えつつ、応答途中からツール実行を開始できる構成を整備したという。今後はAutoResearchなど長時間稼働型エージェントへの対応強化も進める方針とみられる。