NVIDIA memperkenalkan TensorRT Model Connect untuk membantu pengembang perangkat lunak menerapkan model kecerdasan buatan sumber terbuka ke lingkungan C++ asli. Koleksi implementasi referensi menghilangkan konversi manual yang kompleks, memungkinkan pengembang aplikasi untuk membangun bundel penerapan secara langsung menggunakan instruksi baris perintah sederhana.

Para insinyur dapat memanfaatkan antarmuka pemrograman dua tingkat tergantung pada persyaratan kontrol operasional. Opsi tingkat yang lebih tinggi menangani tugas pra-pemrosesan secara otomatis, sementara mekanisme tingkat yang lebih rendah memungkinkan manipulasi tensor langsung dan integrasi kernel unit pemrosesan grafis kustom.

Alur kerja integrasi berkelanjutan memanfaatkan agen pemrograman otomatis untuk mengikuti perkembangan pembaruan model sumber terbuka yang cepat. Dengan menyederhanakan jalur dari pengidentifikasi repositori ke inferensi C++ yang dipercepat, perusahaan komputasi ini meningkatkan kecepatan penerapan secara keseluruhan di seluruh arsitektur perangkat keras pemrosesan grafis yang didukung.