Microsoft は、 Azure ND MI300X V5 インスタンスの一般提供を発表しました。現在、これらのインスタンスは顧客が利用可能であり、 Hugging Face はこれらの仮想マシンを最初に利用する企業の 1 つです。これらのインスタンスは、AMD Instinct MI300X アクセラレータと ROCm ソフトウェアを搭載しており、特に GPT ワークロード向けの AI アプリケーションに効率的で高性能なソリューションを提供します。

AMD と Microsoft のコラボレーションはさまざまなコンピューティング プラットフォームにまで及び、最近では AI の進歩に重点が置かれています。以前はプレビュー段階だったAzure ND MI300X V5 インスタンスが、カナダ中部リージョンで利用できるようになりました。これらのインスタンスは、十分な HBM 容量とメモリ帯域幅を提供し、より大規模な AI モデルの処理を可能にし、複数の GPU の必要性を減らします。これにより、コストが削減され、顧客にとってより迅速なソリューションが実現します。

Azure ND MI300X V5 インスタンスは、GPT-3.5 および GPT-4 モデルへのアクセスを提供するAzure OpenAI サービスを含む、 Azure AI Production ワークロードにも使用されています。これらの VM を早期に導入したHugging Face は、モデルの移植に成功し、顕著なパフォーマンスとコスト効率を実現しました。Microsoft、AMD、 Hugging Faceのコラボレーションにより、AMD Instinct GPU を使用して、 Azure上のHugging Face Hub から多数の AI モデルを実行できるようになりました。

AI の進歩に加えて、Microsoft は、Microsoft Teams や SharePoint ビデオなどのライブ ストリーミング ビデオ サービスを強化するために、AMD Alveo MA35D メディア アクセラレータを選択しました。Alveo MA35D と第 4 世代 AMD EPYC プロセッサを組み合わせることで、Microsoft はビデオ処理ワークロードを効率化し、高品質のビデオ エクスペリエンスを提供できます。AMD EPYC プロセッサを搭載したさまざまな VM シリーズが間もなく一般提供されることは、クラウド サービスにおける AMD のテクノロジの需要が高まっていることをさらに証明しています。

出典:プレスリリース