F5 mengumumkan akses awal ke AI Gateway, sebuah solusi yang bertujuan untuk mempercepat adopsi AI di tingkat perusahaan dengan meningkatkan interaksi antara aplikasi, API, dan model bahasa skala besar (LLM). Solusi dalam container dikatakan dapat meningkatkan kinerja, kemampuan observasi, dan perlindungan, sehingga dapat menghemat biaya bagi bisnis. AI Gateway terintegrasi dengan portofolio F5 yang ada dan memberikan tim keamanan dan operasi cara yang lebih efisien untuk mengimplementasikan layanan AI dengan fokus pada keluaran data berkualitas tinggi dan pengalaman pengguna.

Menurut laporan terbaru perusahaan, sebagian besar perusahaan telah mengadopsi AI, dan API telah menjadi metode penyampaian layanan AI yang populer. Namun, masih terdapat tantangan dalam pengembangan dan penskalaan aplikasi AI, seperti pemantauan metrik utama dan kepatuhan terhadap peraturan baru. Chief Innovation Officer F5 menekankan pentingnya pemantauan dan pertahanan terhadap ancaman baru dalam konteks LLM dan mengatakan AI Gateway mengatasi masalah ini sambil berintegrasi dengan solusi manajemen lalu lintas API tepercaya dari F5.

AI Gateway F5 dirancang agar fleksibel, dapat diterapkan di berbagai lingkungan, dan terintegrasi dengan platform NGINX dan BIG-IP F5. Hal ini memungkinkan Anda memanfaatkan keamanan aplikasi dan layanan pengiriman F5 dalam berbagai skenario penerapan. Solusi ini juga memberikan ekstensibilitas terbuka, memungkinkan organisasi mengembangkan dan menyesuaikan kontrol keamanan. Pakar industri IDC mengomentari pentingnya aplikasi AI dan manfaat AI Gateway F5 yang memberikan peningkatan perlindungan dan optimalisasi model untuk aplikasi pelanggan.

AI Gateway menawarkan berbagai fitur, termasuk peningkatan keamanan dan kepatuhan, cache semantik untuk memindahkan tugas dari LLM, dan proses integrasi yang disederhanakan untuk pengembang. Ini juga mengoptimalkan penyeimbangan beban LLM dan perutean lalu lintas untuk memastikan ketersediaan dan kinerja layanan. Antarmuka API tunggal disediakan bagi pengembang untuk mengakses model AI favorit mereka. CTO perusahaan teknologi memuji kemampuan AI Gateway dalam menangani peningkatan permintaan dan mengintegrasikan kemampuan keamanan dan pengiriman F5, mencatat penghematan biaya dan mengurangi upaya integrasi bagi pelanggan.