Generatived（Beta）｜生成AIの最新ニュースとトレンドを提供

NVIDIA（米国カリフォルニア州）は、AIファクトリーの電力効率を高めるラック規模の計算基盤技術を発表した模様である。自律型エージェントの普及に伴う処理需要の急増に対応し、固定された電力枠内でトークン生成効率を極大化する目的があると伝えられている。

同社の最新システムは、接続されるGPUの領域規模を大幅に拡張し、従来の構成と比較して電力あたりの処理性能を大幅に向上させた模様である。ハードウェアと専用ソフトウェアの一体設計により、ネットワーク内の通信負荷を最適化しつつ運用の安定性を維持する設計が取り入れられているとされている。

すでに主要なAI開発企業やサービス事業者が本基盤を採用し、本番環境での運用を進めているとされる。同社は電力消費とコストを抑えた高効率な計算基盤の提供を通じて、次世代インフラの普及と市場における優位性の確立を目指す方針であるとみられている。