Generatif (Beta) |. Memberikan berita dan tren terkini dalam AI generatif
%20(1).webp)
Microsoft Mengumumkan Windows ML untuk Pengembangan AI
Generatived
25/9/25, 09.00
Microsoft mengumumkan ketersediaan Windows ML untuk pengembang, sebuah alat yang memungkinkan pengembang menjalankan model AI secara lokal di PC mereka. Teknologi ini mendukung berbagai bahasa pemrograman, termasuk C#, C++, dan Python, serta dioptimalkan untuk berbagai perangkat keras, termasuk CPU, NPU, dan GPU. Khusus untuk GPU NVIDIA RTX, Windows ML memanfaatkan NVIDIA TensorRT for RTX Execution Provider untuk memaksimalkan potensi Tensor Core GPU dan penyempurnaan arsitekturnya.
Wakil Presiden Microsoft, Logan Ayer, mengungkapkan kegembiraannya atas rilis ini, dan menyoroti performa AI luar biasa yang dihadirkan Windows ML pada Windows 11 dengan GPU GeForce RTX dan RTX Pro. Teknologi ini dirancang untuk mempercepat pengembangan dan penerapan aplikasi AI yang canggih dalam skala besar.
Windows ML dibangun di atas ONNX Runtime API dan memperluas kemampuannya untuk inisialisasi dinamis dan manajemen dependensi untuk berbagai platform perangkat keras. Windows ML menyederhanakan proses bagi pengembang aplikasi dengan mengunduh penyedia eksekusi yang diperlukan secara otomatis sesuai kebutuhan, sehingga menghilangkan kebutuhan untuk mengelola dependensi secara manual di berbagai vendor perangkat keras.
Integrasi Windows ML dengan penyedia eksekusi TensorRT for RTX NVIDIA menawarkan beberapa manfaat, termasuk inferensi latensi rendah dan peningkatan throughput yang signifikan dibandingkan implementasi sebelumnya. Integrasi ini juga mendukung beragam arsitektur model dengan kompilasi tepat waktu untuk penerapan yang efisien ke perangkat pengguna akhir. Rilis ONNX Runtime 1.23.0, yang disertakan dengan Windows ML, menawarkan API yang agnostik terhadap vendor dan penyedia eksekusi, menyederhanakan pemilihan perangkat dan memaksimalkan kinerja pada GPU NVIDIA.
Pengembang kini dapat melakukan prakompilasi runtime model menggunakan file ONNX konteks EP di dalam ONNX Runtime, yang mempercepat waktu muat di Windows ML. Optimalisasi ini sangat efektif karena mengurangi waktu yang dibutuhkan untuk inferensi model. Selain itu, API perangkat ONNX Runtime baru di Windows ML memungkinkan pengembang untuk mengalokasikan tensor khusus perangkat dengan overhead transfer data minimal, yang menghasilkan peningkatan kinerja dan desain kode yang lebih bersih.
Bagikan artikel ini:

%20(1).webp)
