Teknologi AI terus berkembang, beralih dari pelatihan model ke inferensi terdistribusi, lalu ke pengembangan model inferensi. Kompleksitas alur kerja AI membutuhkan penerapan yang efisien, dan di sinilah F5 BIG-IP ADC untuk Kubernetes berperan. Didukung oleh DPU NVIDIA BlueField-3, solusi ini menyederhanakan pengiriman aplikasi Kubernetes dan meningkatkan penerapan AI berbasis agen, sekaligus berfokus pada pengurangan biaya kepemilikan melalui efisiensi operasional dan optimalisasi konsumsi daya.

Evolusi AI telah mendorong munculnya AI agen, yang tidak hanya menjawab pertanyaan tetapi juga memecahkan masalah kompleks melalui perencanaan dan inferensi. Alur kerja Digital Human Blueprint NVIDIA adalah contoh AI agen, yang memanfaatkan berbagai layanan mikro inferensi NVIDIA untuk membangun alur kerja terintegrasi. Untuk mengatasi kompleksitas alur kerja ini, diperlukan infrastruktur terdistribusi dengan komputasi, jaringan, dan penyimpanan yang dipercepat guna mengelola pergerakan data secara efisien.

Untuk mengatasi tantangan penerapan dan pengoperasian pabrik AI, NVIDIA telah mengembangkan arsitektur referensi bagi operator cloud AI berdaulat. Arsitektur ini memanfaatkan DPU BlueField-3 untuk mengelola akses jaringan dan penyimpanan secara efisien. ADC BIG-IP Next for Kubernetes dari F5, yang disempurnakan dengan BlueField-3, menyediakan penyeimbangan beban dinamis, keamanan yang tangguh, dan kapabilitas multitenant berbasis cloud untuk mewujudkan jaringan berkinerja tinggi dan keamanan zero-trust dalam skala besar di cloud AI.

SoftBank mendemonstrasikan BINK pada klaster GPU NVIDIA H100 untuk menunjukkan efektivitasnya. Dalam uji coba konsep, BINK yang diakselerasi dengan BlueField-3 secara signifikan mengungguli Nginx sumber terbuka dalam hal throughput, latency, utilisasi CPU, dan efisiensi energi jaringan. Uji coba konsep ini dengan kuat menunjukkan potensi pengontrol pengiriman aplikasi F5 yang diakselerasi dengan BlueField-3 untuk mengelola lalu lintas ke cloud AI secara efisien.