Generatived(Beta)|生成AIの最新ニュースとトレンドを提供

NVIDIA F5、Kubernetes AI 導入効率を向上
Generatived
25/7/9 9:00
AI技術は進化を続け、モデル学習から分散推論、そして推論モデルの開発へと移行しています。AIワークフローの複雑さは効率的な導入を必要としており、そこでF5 BIG-IP ADC for Kubernetesが活躍します。NVIDIA BlueField-3 DPUを搭載したこのソリューションは、Kubernetesアプリケーションの配信を効率化し、エージェント型AIの導入を強化するとともに、運用効率と消費電力の最適化を通じて所有コストの削減にも注力しています。
AIの進化は、質問に答えるだけでなく、計画と推論を通じて複雑な問題を解決するエージェントAIの出現につながっています。NVIDIAのデジタルヒューマンブループリントワークフローは、エージェントAIの一例であり、様々なNVIDIA推論マイクロサービスを活用して統合されたワークフローを構築しています。こうしたワークフローの複雑さに対処するには、データ移動を効率的に管理するために、高速コンピューティング、ネットワーク、ストレージを備えた分散インフラストラクチャが必要です。
AIファクトリーの導入と運用における課題に対処するため、NVIDIAはソブリンAIクラウド事業者向けのリファレンスアーキテクチャを開発しました。このアーキテクチャは、BlueField-3 DPUを活用してネットワークとストレージアクセスを効率的に管理します。BlueField-3で強化されたF5のBIG-IP Next for Kubernetes ADCは、動的な負荷分散、堅牢なセキュリティ、クラウドネイティブなマルチテナント機能を提供し、AIクラウドにおける大規模な高性能ネットワークとゼロトラストセキュリティを実現します。
ソフトバンクは、NVIDIA H100 GPUクラスタ上でBINKを実証し、その有効性を実証しました。概念実証では、BlueField-3で高速化されたBINKが、スループット、レーテンシー、CPU使用率、ネットワークエネルギー効率の点でオープンソースのNginxを大幅に上回る性能を発揮しました。この概念実証は、BlueField-3で高速化されたF5のアプリケーションデリバリーコントローラーが、AIクラウドへのトラフィックを効率的に管理できる可能性を強く示しています。

%20(1).webp)
