Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

Dell Technologies（米テキサス州）は、NVIDIAと連携した「Dell AI Factory」の新構成を発表したと明らかにした。エージェント型AI推論向けに「NVIDIA Vera Rubin NVL72」を採用し、トークン当たりの推論コストを従来比で大幅に抑制できるとしている。

同社によると、新型PowerEdgeサーバー群は最大144基のGPUを1ラックで利用可能となり、液冷設計を全面採用したという。AIエージェント向け処理では、Vera CPUが従来CPU比で最大50％高速化し、データ分析性能も向上したと説明している。

また、Google Distributed CloudやOpenAI Codex、Palantirなどとの協業も拡大し、機密データを保護する「NVIDIA Confidential Computing」に対応したオンプレミスAI環境を提供する方針を示した。金融、製薬、製造業での利用拡大を見込むという。

さらに、LillyやSamsung、Honeywellなど約5,000社がDell AI Factoryを活用していると公表した。Dellは、2030年までにAIインフラ市場規模が数兆ドル規模へ拡大するとの見通しを示し、企業向けAI需要の本格化に対応するとしている。