Generatived（Beta）｜生成AIの最新ニュースとトレンドを提供

Google Cloudは、NVIDIAとの連携を拡大し、AI開発と展開の強化を目的とした一連の新機能を導入すると発表しました。NVIDIAのGB300 NVL72を搭載した新しいA4X Maxインスタンスは、複数の推論モードを伴う複雑なAIタスク向けにカスタマイズされています。これらのインスタンスは、72基のBlackwell Ultra GPUと36基のNVIDIA Grace CPUを搭載し、NVIDIA NVLinkを介して相互接続され、共有メモリと高帯域幅通信を備えた統合コンピューティングプラットフォームを構築しています。

Google Kubernetes Engine（GKE）は、分散AIおよび機械学習ワークロードの帯域幅を向上させるDynamic Resource Allocation Kubernetes Network Driver（DRANET）をサポートするようになりました。さらに、GKE Inference GatewayはNVIDIA NeMo Guardrailsと統合され、 Vertex AI Model GardenではまもなくNVIDIA Nemotronモデルが利用可能になります。Vertex AI TrainingVertex、NVIDIA NeMo FrameworkとNeMo-RLに基づくレシピで強化され、大規模モデルの開発を効率化します。

Google Cloud の A4X Max インスタンスは、AI 推論を最適化するように設計されており、大規模な推論モデルのレーテンシーとスループットを大幅に向上させます。また、これらのインスタンスはトレーニングとサービス提供のパフォーマンスも強化し、以前のモデルと比較して 4 倍のパフォーマンスを実現しています。RDMA over Converged Ethernet (RoCE) をベースとした A4X Max のネットワーク ファブリックは、分散トレーニングおよびサービス提供ワークロードにおいて最大限のスケーラビリティと並列化を実現します。

NVIDIA NeMo GuardrailsとGKE推論ゲートウェイの統合により、AIモデルのデプロイのための安全でスケーラブルVertexソリューションが実現し、その安全性と責任ある動作が確保されます。Vertex AI Model GardenにおけるNVIDIAのNemotronモデルのサポートが間もなく開始されるため、開発者は最新のオープンウェイトモデルを利用してVertexAIエージェントを作成できるようになります。Vertex AI Trainingの拡張機能は、管理された環境と最適化されたトレーニングレシピにより、独自モデルの開発を簡素化します。

Google Cloud プラットフォームの今回のアップデートは、NVIDIA のテクノロジーを活用し、次世代 AI アプリケーションの開発を支援する、AI 開発と展開のための包括的なエコシステムを提供するというコミットメントを反映しています。強化されたインフラストラクチャの提供は、開発者や組織に高度な AI ソリューションを効率的かつ効果的に構築するために必要なツールを提供することを目的としています。