Generatif (Beta) |. Memberikan berita dan tren terkini dalam AI generatif
%20(1).webp)
Microsoft Mengumumkan Windows ML untuk Pengembangan AI
Generatived
25/9/25, 09.00
Microsoft mengumumkan ketersediaan Windows ML untuk pengembang, sebuah alat yang memungkinkan pengembang menjalankan model AI secara lokal di PC mereka. Teknologi ini mendukung berbagai bahasa pemrograman, termasuk C#, C++, dan Python, serta dioptimalkan untuk berbagai perangkat keras, termasuk CPU, NPU, dan GPU. Khusus untuk GPU NVIDIA RTX, Windows ML memanfaatkan NVIDIA TensorRT for RTX Execution Provider untuk memaksimalkan potensi Tensor Core GPU dan penyempurnaan arsitekturnya.
Wakil Presiden Microsoft, Logan Ayer, mengungkapkan kegembiraannya atas rilis ini, dan menyoroti performa AI luar biasa yang dihadirkan Windows ML pada Windows 11 dengan GPU GeForce RTX dan RTX Pro. Teknologi ini dirancang untuk mempercepat pengembangan dan penerapan aplikasi AI yang canggih dalam skala besar.
Windows ML dibangun di atas ONNX Runtime API dan memperluas kemampuannya untuk inisialisasi dinamis dan manajemen dependensi untuk berbagai platform perangkat keras. Windows ML menyederhanakan proses bagi pengembang aplikasi dengan mengunduh penyedia eksekusi yang diperlukan secara otomatis sesuai kebutuhan, sehingga menghilangkan kebutuhan untuk mengelola dependensi secara manual di berbagai vendor perangkat keras.
Integrasi Windows ML dengan penyedia eksekusi TensorRT for RTX NVIDIA menawarkan beberapa manfaat, termasuk inferensi latensi rendah dan peningkatan throughput yang signifikan dibandingkan implementasi sebelumnya. Integrasi ini juga mendukung beragam arsitektur model dengan kompilasi tepat waktu untuk penerapan yang efisien ke perangkat pengguna akhir. Rilis ONNX Runtime 1.23.0, yang disertakan dengan Windows ML, menawarkan API yang agnostik terhadap vendor dan penyedia eksekusi, menyederhanakan pemilihan perangkat dan memaksimalkan kinerja pada GPU NVIDIA.
Pengembang kini dapat melakukan prakompilasi runtime model menggunakan file ONNX konteks EP di dalam ONNX Runtime, yang mempercepat waktu muat di Windows ML. Optimalisasi ini sangat efektif karena mengurangi waktu yang dibutuhkan untuk inferensi model. Selain itu, API perangkat ONNX Runtime baru di Windows ML memungkinkan pengembang untuk mengalokasikan tensor khusus perangkat dengan overhead transfer data minimal, yang menghasilkan peningkatan kinerja dan desain kode yang lebih bersih.
Bagikan artikel ini:
Tin tức mới nhất
OpenAIが技能開発支援
22/9/26, 07.00
OpenAI(米国カリフォルニア州)は、東南アジアの配車・配達大手Grabと提携し、AIスキルの育成プログラム『GO Forward with AI』を開始すると発表した。
Copyright © 2024 Generatived - All right Reserved.
Bagikan artikel ini:
Bagikan artikel ini:
Kategori
Berita
AI dan hukum/peraturan/masyarakat
Generatived là dịch vụ cung cấp thông tin và xu hướng chuyên về Generative AI. Chúng tôi sẽ cố gắng hết sức để cung cấp thông tin về thế giới đang thay đổi nhanh chóng.
Berita terkini
OpenAIが技能開発支援
22/9/26, 07.00
OpenAI(米国カリフォルニア州)は、東南アジアの配車・配達大手Grabと提携し、AIスキルの育成プログラム『GO Forward with AI』を開始すると発表した。

%20(1).webp)
%20(1).webp)



