VMware dan NVIDIA telah memperluas kemitraan strategis mereka untuk mempersiapkan era AI generatif. VMware Private AI Foundation dan NVIDIA akan memungkinkan perusahaan untuk menyesuaikan model dan menjalankan aplikasi AI generatif. Platform ini dibangun di atas VMware Cloud Foundation dan dilengkapi dengan perangkat lunak AI generatif yang dioptimalkan dari NVIDIA dan komputasi yang dipercepat. Untuk menyederhanakan pengembangan, pengujian, dan penerapan aplikasi AI generatif, VMware Private AI Foundation dan NVIDIA menawarkan alat AI terintegrasi. Ia juga menawarkan opsi privasi, pembuatan model dan eksekusi, kinerja seperti logam, skala pusat data, biaya lebih rendah, penyimpanan dan jaringan lebih cepat, dan kemampuan penerapan cepat. Platform ini akan didukung oleh NVIDIA NeMo, sebuah kerangka kerja cloud-native end-to-end yang memungkinkan perusahaan membangun, menyesuaikan, dan menerapkan model AI generatif secara virtual di mana saja. NeMo menggabungkan kerangka penyesuaian, perangkat pagar pembatas, alat kurasi data, dan model terlatih untuk menyediakan cara yang mudah, hemat biaya, dan cepat dalam menerapkan AI generatif. Untuk menghadirkan AI generatif ke produksi, NeMo menggunakan TensorRT untuk Model Bahasa Besar (TRT-LLM) untuk mempercepat dan mengoptimalkan performa inferensi. VMware Private AI Foundation dengan NVIDIA didukung oleh Dell Technologies, Hewlett Packard Enterprise (HPE), dan Lenovo. Perusahaan-perusahaan ini menawarkan sistem yang menggunakan GPU NVIDIA L40S, DPU NVIDIA BlueField-3, dan NVIDIA ConnectX-7 SmartNIC untuk mendukung beban kerja penyesuaian dan inferensi LLM perusahaan. VMware dan NVIDIA telah bermitra selama 10 tahun, dan upaya rekayasa bersama mereka telah mengoptimalkan infrastruktur cloud VMware untuk menjalankan NVIDIA AI Enterprise dengan kinerja yang sebanding dengan bare metal.