Microsoft mengumumkan ketersediaan umum instans Azure ND MI300X V5. Mesin virtual ini kini tersedia bagi pelanggan, dan Hugging Face adalah salah satu perusahaan pertama yang memanfaatkan mesin virtual ini. Instans ini didukung oleh akselerator AMD Instinct MI300X dan perangkat lunak ROCm, memberikan solusi efisien dan berkinerja tinggi untuk aplikasi AI, khususnya untuk beban kerja GPT.

Kolaborasi AMD dan Microsoft mencakup berbagai platform komputasi, dengan fokus terkini pada kemajuan AI. Instans Azure ND MI300X V5, yang sebelumnya dalam pratinjau, kini tersedia di wilayah Kanada Tengah. Instans ini menyediakan kapasitas HBM dan bandwidth memori yang memadai untuk memungkinkan pemrosesan model AI yang lebih besar dan mengurangi kebutuhan akan banyak GPU. Hal ini menghasilkan biaya yang lebih rendah dan solusi yang lebih cepat bagi pelanggan.

Instans Azure ND MI300X V5 juga digunakan untuk beban kerja Azure AI Production, termasuk layanan Azure OpenAI yang menyediakan akses ke model GPT-3.5 dan GPT-4. Sebagai pengguna awal VM ini, Hugging Face berhasil melakukan porting model dan mencapai performa signifikan serta efisiensi biaya. Berkat kolaborasi antara Microsoft, AMD, dan Hugging Face, kini Anda dapat menjalankan banyak model AI dari Hugging Face Hub di Azure menggunakan GPU AMD Instinct.

Selain kemajuan AI, Microsoft telah memilih akselerator media AMD Alveo MA35D untuk mendukung layanan video streaming langsung seperti Microsoft Teams dan video SharePoint. Kombinasi prosesor Alveo MA35D dan AMD EPYC generasi ke-4 memungkinkan Microsoft menyederhanakan beban kerja pemrosesan video dan menghadirkan pengalaman video berkualitas tinggi. Ketersediaan umum berbagai seri VM yang didukung oleh prosesor AMD EPYC merupakan bukti lebih lanjut dari meningkatnya permintaan akan teknologi AMD dalam layanan cloud.