Generatived（Beta）｜生成AIの最新ニュースとトレンドを提供

NVIDIA は、さまざまな環境へのアプリケーションの展開を簡素化する新しい AI 推論ソリューション、DGX Cloud Serverless Inference を発表しました。NVIDIA Cloud Functions を搭載したこのプラットフォームでは、AI ワークロード、ハイパフォーマンス コンピューティング、コンテナー化されたアプリケーションをシームレスに管理できます。一度展開すればグローバルに拡張できるため、マルチクラスター インフラストラクチャのセットアップの複雑さが解消されます。

独立系ソフトウェア ベンダー (ISV) は、AI アプリケーションをグローバルに拡張する際に困難に直面することがよくあります。NVIDIA のサーバーレス AI 推論ソリューションは、複数のクラウドとデータ センターにわたるインフラストラクチャの複雑さを抽象化する一貫した展開方法を提供することで、これらの課題に対処します。これにより、ISV はアプリケーションを顧客のインフラストラクチャの近くに簡単に展開できます。

DGX Cloud Serverless Inference プラットフォームは水平アグリゲーターとして機能し、ISV が NVIDIA、クラウド パートナー、プライベート クラウド、オンプレミスの容量など、さまざまなソースからのリソースを組み合わせることを可能にします。この柔軟性は、長期的な投資をすることなく容量を拡張したり、新しいクラウド プロバイダーを探したりしたい ISV にとって特に有益です。

NVIDIA のソリューションにより、開発者は単一のAPIエンドポイントを使用して、クラウド環境全体で AI ワークロードを拡張できます。このアプローチにより、グローバルな負荷分散と自動スケーリングが容易になり、さまざまなワークロードにマルチクラウドの柔軟性がもたらされます。このプラットフォームは、AI、グラフィカル、ジョブ ワークロードなど、さまざまなコンテナー化されたワークロードをサポートし、NVIDIA の AI およびシミュレーション テクノロジ スイートと互換性があります。ISV は、NVIDIA のマイクロサービス コンテナーとブループリントを利用するか、より複雑な展開のためにカスタム コンテナーを統合することで、DGX Cloud Serverless Inference を開始できます。