Vultr baru-baru ini mengumumkan perluasan platform inferensi tanpa server untuk meningkatkan infrastruktur yang diperlukan untuk menerapkan AI agen. Pengembangan ini dibangun berdasarkan rilis awal platform, yang memungkinkan perusahaan melakukan penskalaan otomatis model dan memanfaatkan turnkey search augmented generation (RAG) di 32 pusat data di seluruh dunia. Kemajuan yang dicapai perusahaan ini akan menjawab meningkatnya permintaan akan platform agen AI dan menyediakan sumber daya yang dibutuhkan untuk komputasi berkinerja tinggi di pusat data.

Teknologi tanpa server dari perusahaan, yang didukung oleh GPU NVIDIA dan AMD, memungkinkan penskalaan otomatis inferensi model AI, mengoptimalkan kinerja pada perangkat keras terbaik tanpa intervensi manual. Pendekatan Vultr memberikan fleksibilitas, memungkinkan penggunaan model sumber terbuka populer seperti Llama 3, serta opsi bagi pelanggan untuk menerapkan model mereka sendiri dan kluster inferensi khusus di seluruh dunia. Kevin Cochrane, kepala pemasaran Vultr, menekankan keseimbangan kinerja, efisiensi biaya, dan efisiensi energi yang dihasilkan oleh perluasan kemampuan inferensi tanpa server.

Kemampuan Turnkey RAG Vultr memastikan pemrosesan data yang aman dan memungkinkan bisnis menghasilkan keluaran AI khusus sambil menjaga keamanan dan kepatuhan data. Kemampuan ini meningkatkan kemampuan sistem AI dalam memberikan respons yang akurat dan kontekstual secara real-time. Selain itu, API perusahaan yang kompatibel dengan OpenAI memberikan alternatif hemat biaya bagi perusahaan untuk mengintegrasikan AI ke dalam operasi mereka, memberikan skalabilitas dan mengurangi kebutuhan investasi perangkat keras dan pemeliharaan server yang besar.

Misi Vultr adalah menyederhanakan komputasi awan berkinerja tinggi, menjadikannya dapat diakses dan terjangkau di seluruh dunia. Dengan lebih dari 1,5 juta pelanggan di 185 negara, perusahaan ini mempertahankan status perusahaan swasta dan menawarkan berbagai solusi termasuk komputasi awan, GPU awan, bare metal, dan penyimpanan awan.