Generatived（Beta）｜生成AIの最新ニュースとトレンドを提供

NVIDIA（サンフランシスコ）は、AIエージェントの運用に向けた新たなアーキテクチャシステム「Vera Rubin NVL72」の性能データを公表した模様だ。本システムは従来モデルに比べメガワットあたりのスループットを最大30倍向上させ、処理コストを最大35倍削減する能力を備えているとされる。

複雑な自律型タスクにおけるトークン消費量の急増に対応するため、ハードウェアとソフトウェアの協調設計が強化されたとのことだ。分散サービングやコンテキスト記憶機能の効率化により、長文コンテキストの処理スピードと電力利用効率を大幅に高める構造が整えられていると伝えられている。

エネルギー制約のあるデータセンターにおいて、今回の技術は電力枠あたりの実行能力を飛躍的に高める可能性を秘めているようだ。同社は継続的なソフトウェア最適化を通じてさらなる性能向上を図り、世界規模でのエージェント導入基盤の普及を推進していく構想と報じられている。