NVIDIA（米国カリフォルニア州）は、AIファクトリーのデータパスにおいてインフラ処理を専門に行う新しいプロセッサ群を発表したと報じられている。自律型エージェントの処理に伴うCPUやGPUの負荷を軽減し、データの高速な移行や保護、コンテキスト情報の再利用を実現する目的があると伝えられている。

本取り組みでは、ネットワークやストレージ、セキュリティなどの機能をホストCPUから分離して処理する設計が取り入れられている模様である。これにより、推論処理における遅延を抑えながら計算資源の利用効率を高め、電力あたりの処理性能の向上を図る方針であるとされる。

同社は統合的なソフトウェア基盤を通じてプログラム可能なサービスを提供し、データセンター全体での運用最適化を支援する姿勢をみせている。膨大なデータを扱う次世代AI基盤の安定運用とコスト削減に寄与することが期待されている。