Mavenir (德克萨斯州理查森), sebuah perusahaan perangkat lunak yang berfokus pada pembangunan jaringan seluler berbasis AI, hari ini mengumumkan kemitraan dengan Red Hat untuk memanfaatkan teknologi AI Red Hat guna menyediakan solusi jaminan layanan AI percakapan dan AI agen untuk industri telekomunikasi. Solusi ini akan diimplementasikan secara lokal dengan Red Hat OpenShift AI, meletakkan dasar untuk operasi jaringan yang sangat skalabel, berfokus pada keamanan, tangguh, dan hemat biaya bagi penyedia layanan telekomunikasi.

Kemitraan ini berfokus pada transformasi industri telekomunikasi melalui solusi AI. Solusi ini memaksimalkan investasi pada platform yang ada dan memberikan keamanan, ketahanan, dan latensi rendah tambahan yang penting untuk operasi jaringan real-time. Mavenir bertujuan untuk menyediakan solusi AI yang disesuaikan untuk industri telekomunikasi, meningkatkan efisiensi biaya dan keamanan. Solusi ini lebih unggul daripada layanan AI terkelola.

"Penyedia layanan perlu mengelola pengalaman pengguna, biaya, dan privasi data saat mereka memonetisasi AI dan berevolusi menuju jaringan otonom," kata Sachin Karkala, wakil presiden eksekutif di Mavenir. “Kolaborasi kami dengan Red Hat akan memungkinkan kami untuk mengembangkan solusi AI yang diterapkan secara lokal yang mencapai tujuan ini. Model Gen AI dapat disempurnakan melalui data penyedia layanan untuk membangun agen yang disesuaikan dan terlokalisasi untuk kinerja optimal.”

Mavenir dan Red Hat juga berkolaborasi dengan Open Telecom Ecosystem Lab (OTEL) milik Dell Technologies. Lab ini didukung oleh Dell PowerEdge R760xa, server berkinerja tinggi dan berpendingin yang cocok untuk berbagai aplikasi, termasuk AI, pembelajaran mesin, dan pelatihan serta inferensi pembelajaran mendalam. Pakar AI OTEL Dell berkolaborasi dengan tim teknik Mavenir dan Red Hat untuk menyempurnakan model bahasa skala besar dan memaksimalkan kinerja infrastruktur yang mendasarinya. Dengan menerapkan solusi ini secara lokal menggunakan Red Hat OpenShift AI, penyedia layanan dapat mengoptimalkan efisiensi sumber daya GPU, mempertahankan kendali penuh atas persyaratan keamanan dan tata kelola, dan lebih mudah mengelola siklus hidup AI yang kompleks.

“Memindahkan AI perusahaan dari tahap pembuktian konsep ke produksi membutuhkan fondasi yang tervalidasi dengan komponen wajib seperti pertahanan, kemampuan pengamatan, dan manajemen siklus hidup yang kuat. Red Hat OpenShift AI menyediakan fondasi yang diperlukan ini,” kata Honoré LaBourdette, Wakil Presiden di Red Hat. “Bersama dengan Mavenir, kami mendemonstrasikan efektivitas biaya efisiensi GPU melalui alat-alat seperti Queue dan Dynamic Accelerator Slicer (DAS), yang digunakan untuk berbagi sumber daya multi-tenant dan membantu mengoptimalkan pemanfaatan investasi perangkat keras bernilai tinggi. Hal ini, dikombinasikan dengan penyajian model latensi rendah dengan vLLM, akan membantu aplikasi real-time seperti terjemahan ucapan AI mencapai kinerja konsisten yang dibutuhkan pasar, membuktikan nilai nyata dari model yang diterapkan secara lokal.”