NVIDIA dan Microsoft bekerja sama untuk mengoptimalkan teknologi AI bagi pengembang. Model AI terbaru Microsoft, termasuk keluarga Phi-3, disesuaikan untuk GPU NVIDIA. Model ini tersedia sebagai layanan mikro inferensi NVIDIA NIM yang dirancang untuk diterapkan secara lancar di berbagai platform. Selain itu, AI pengoptimalan rute cuOpt NVIDIA dan layanan mikro lainnya kini tersedia di Microsoft Azure Marketplace sebagai bagian dari rangkaian perangkat lunak NVIDIA AI Enterprise.

Kemitraan ini juga berfokus pada penyediaan alat bagi pengembang untuk membuat aplikasi AI berkinerja tinggi untuk PC yang didukung oleh GPU NVIDIA GeForce RTX dan NVIDIA RTX. Pekerjaan ini merupakan bagian dari upaya berkelanjutan kami untuk mendukung komunitas pengembang dan akan dijelaskan lebih lanjut pada acara pengembang Microsoft Build di Seattle.

Microsoft memperluas model bahasa kecil terbuka Phi-3 dan memperkenalkan model baru dengan parameter berbeda, termasuk model multimodal yang menangani gambar dan teks. Model ini dioptimalkan untuk GPU NVIDIA menggunakan NVIDIA TensorRT-LLM, tersedia sebagai NIM, dan menyediakan layanan mikro inferensi cepat dengan API standar. Pengembang dapat mengakses API ini melalui situs web NVIDIA dan Azure Marketplace.

cuOpt, layanan mikro AI pengoptimalan rute NVIDIA, kini tersedia di Azure Marketplace. Layanan ini menggunakan algoritma paralel untuk meningkatkan manajemen logistik untuk berbagai industri. cuOpt telah mencapai banyak rekor dalam tolok ukur perutean dan menunjukkan potensi mengurangi biaya logistik dan rantai pasokan secara signifikan. Pengembang dapat mengintegrasikan cuOpt dengan Azure Maps untuk manajemen logistik real-time dan memanfaatkan alat manajemen dan fitur keamanan pasar.

Terakhir, NVIDIA dan Microsoft berupaya meningkatkan kinerja AI pada PC dengan GPU NVIDIA RTX. Kedua perusahaan memberikan pengoptimalan dan integrasi baru kepada pengembang Windows untuk mempercepat aplikasi AI. Peningkatan ini mencakup inferensi yang lebih cepat untuk model bahasa besar dan optimalisasi kinerja untuk model AI seperti Difusi Stabil dan Whisper. Dukungan Windows untuk PyTorch melalui DirectML memanfaatkan kekuatan lebih dari 100 juta GPU RTX dan menjadikan berbagai model Hugging Face kompatibel secara asli. saus: