Google(カリフォルニア州)は、生成AIアプリケーション向けのGoogle Cloudネットワーキング機能を強化した。Gartner® のレポートによると、多くの組織がAIを活用し、2024年までには80%の企業が生成AIを導入する計画だという。生成AIアプリケーションは従来のウェブアプリケーションと異なり、リクエストやレスポンスの時間が変動し、GPUやTPUのコンピューティング時間を100%使用することがある。

Googleは、生成AIアプリケーションのトラフィックを最適化する新機能を発表。これにより、エンドユーザーに最良のエクスペリエンスを提供し、GPUやTPUなどのリソースを効率的に使用することが可能になる。これらの機能はVertex AIに組み込まれ、Google Cloudネットワーキングで利用できるようになった。

新機能の一つに、クロスクラウドネットワークを介したAIのトレーニングと推論の加速がある。IDCレポートによると、66%の企業が生成AIをマルチクラウドネットワーキングの上位ユースケースとして挙げている。Googleのグローバルネットワークを基盤としたクロスクラウド ネットワークは、信頼性と安全性を備え、クラウド間の高速データ転送を支援する。

また、Model as a Service EndpointはAI推論アプリケーション特有の要件に対応したソリューションである。App Hub、Private Service Connect(PSC)、Cloud Load Balancingなどのクラウドコンポーネントから構成され、生成AIモデルへの安全な接続性を確保する。Googleは、これらの機能を通じて生成AIアプリケーションの信頼性、有効性、効率性を向上させることを目指している。

ソース:AI & Machine Learning | Google Cloud Blog