Microsoft mengumumkan panduan dan kemampuan terbaru untuk Microsoft Foundry, memposisikan platform tersebut sebagai lingkungan terpadu untuk memilih, mengevaluasi, menerapkan, dan mengelola model AI di seluruh siklus hidup aplikasi. Perusahaan tersebut mengindikasikan bahwa disiplin operasional telah menjadi tantangan yang lebih besar daripada akses model itu sendiri.

Platform ini mendukung model Microsoft, model sumber terbuka, penawaran mitra, model kustom, dan varian pasca-pelatihan melalui alur kerja umum. Microsoft juga melaporkan bahwa Fireworks AI di Foundry telah mencapai ketersediaan umum, menyediakan akses perusahaan ke inferensi model terbuka melalui infrastruktur yang dikelola Azure.

Menurut perusahaan tersebut, sistem AI produksi memerlukan evaluasi berkelanjutan di seluruh metrik kualitas, keamanan, latency, throughput, dan biaya. Foundry memungkinkan pengembang untuk menguji model terhadap kumpulan data milik perusahaan, membandingkan output, dan menilai alur kerja agen menggunakan alat evaluasi bawaan dan yang dapat disesuaikan.

Microsoft menyatakan bahwa organisasi dapat mengoptimalkan penerapan melalui perutean cerdas, pengelompokan, caching, kontrol kuota, dan throughput yang disediakan. Tata kelola, pemantauan, pencatatan audit, dan kemampuan rollback dirancang untuk membantu tim mengoperasikan beban kerja AI dalam skala besar sambil terus beradaptasi dengan model dan persyaratan bisnis yang terus berkembang.