Kong Inc. baru-baru ini meluncurkan rangkaian plugin AI open source baru yang dirancang untuk meningkatkan kemampuan Kong Gateway 3.6. Rangkaian ini mencakup enam plugin dan bertujuan untuk memfasilitasi integrasi model pembelajaran berbagai bahasa (LLM) untuk pengembang dan menyediakan kemampuan AI yang aman dan berkinerja tinggi. Chief Technology Officer Kong Inc. menekankan pentingnya rilis ini dalam membuat AI lebih mudah diakses oleh pengembang dan menyediakan tata kelola lalu lintas AI yang lebih baik dalam organisasi.

Plugin yang baru diperkenalkan ini menawarkan beragam fitur, termasuk integrasi multi-LLM tanpa batas yang mendukung model industri besar dan manajemen kredensial AI terpusat dalam Kong Gateway. Selain itu, plugin ini memungkinkan pengumpulan analisis terperinci di Layer 7, memberikan wawasan tentang penggunaan LLM dan preferensi pengembang. Rangkaian ini juga mencakup integrasi AI tanpa kode, yang memungkinkan transformasi respons API secara real-time dan transformasi lainnya tanpa memerlukan pengkodean.

Kong Inc. juga memperkenalkan alat rekayasa cepat yang canggih di dalam suite tersebut. Ini termasuk plugin untuk membuat dan mengelola template prompt, mendekorasi prompt AI dengan konfigurasi yang konsisten, dan lapisan tata kelola untuk memastikan kepatuhan terhadap standar organisasi. Fitur-fitur ini dirancang untuk menyederhanakan proses mengintegrasikan AI ke dalam aplikasi dengan tetap menjaga keamanan dan kepatuhan.

Mengintegrasikan kemampuan AI ini ke dalam Kong Gateway akan memusatkan manajemen lalu lintas AI dan memanfaatkan sejumlah besar plugin yang ada untuk kontrol akses yang kuat dan peraturan lalu lintas tingkat lanjut. Kong Inc. yakin rilis ini memposisikannya sebagai pemimpin dalam infrastruktur API untuk kasus penggunaan berbasis AI. Perusahaan mengundang pihak-pihak yang berkepentingan ke webinar mendatang dengan CTO-nya untuk mempelajari lebih lanjut tentang AI Gateway dan mendorong pengguna untuk memberikan umpan balik untuk rilis fitur AI di masa mendatang.