Generatived（Beta）｜生成AIの最新ニュースとトレンドを提供

Google（アメリカ カリフォルニア州）は、AI/MLモデルの成長に伴い、インフラストラクチャの需要が増加していることを受け、KubernetesとGoogle Kubernetes Engine（GKE）で実行されるモデルのパフォーマンス向上に取り組んでいる。特に、Kubernetesが特化したハードウェア機能を認識できるようにするため、オープンソースコミュニティと協力している。Googleは、Kubernetesの動的リソース割り当て（DRA）フレームワークの開発に注力し、ネットワーキングの動的リソース割り当て（DRANET）を提案した。

Googleはこの度、Google Kubernetes Engine（GKE）のマネージド DRANET のプレビュー版を発表した。A4X Max インスタンスで利用可能となり、Google Cloudはマネージド DRANET を本番環境にデプロイする。このソリューションは、Kubernetes上で高性能ネットワークインターフェースをインテリジェントに割り当て、AIワークロードのネットワークパフォーマンスと運用の複雑さに対応する。

GKE上でのDRANETは、特に複数のGPUを使用するAIワークロードに最適化されている。しかし、従来のKubernetesネットワーキングインターフェースでは、これらの機能を最大限に活用することが難しい。Googleのマネージド DRANETを使用すると、GKEのコントロールプレーンがGPUとネットワークインターフェースのNUMAアライメントを可能にし、スループットを向上させる。

Google Cloud A4X Max インスタンスは、NVIDIA GB300 NVL72 ラックスケールシステムをベースにしており、GKE向けマネージド DRANETとの組み合わせにより、ハードウェアのパフォーマンスを最大限に引き出す。各GPUに必要な専用で整合性のある低レイテンシのネットワークパスを確保し、超大規模AI向けに構築されたこれらのインスタンスの詳細は、リリース時のブログで確認できる。