Karena organisasi berupaya memanfaatkan kekuatan AI generatif dan model bahasa besar (LLM), mereka menghadapi tantangan dalam mengelola dan mengamankan penerapan API mereka. Apigee, platform Google Cloud, telah memainkan peran penting di Google dalam membantu perusahaan mengatasi tantangan ini selama lebih dari satu dekade. Platform ini mendukung integrasi agen AI generatif ke dalam aplikasi sekaligus memastikan keamanan, skalabilitas, dan tata kelola yang kuat. Platform ini juga memfasilitasi interaksi yang aman dengan LLM sekaligus menyediakan kemampuan penting seperti autentikasi, kontrol lalu lintas, analitik, dan penegakan kebijakan.

Apigee bertindak sebagai perantara penting, meningkatkan keamanan aplikasi AI dengan melindungi dari risiko keamanan API umum dan mengoptimalkan kinerja melalui fitur-fitur canggih seperti cache semantik. Apigee juga mengendalikan biaya dengan memberlakukan pembatasan token dan mengatur interaksi kompleks antara beberapa agen AI. Dalam hal menghubungkan dengan berbagai LLM, Apigee menyederhanakan proses dengan merutekan permintaan secara cerdas dan mengelola failover ke model yang paling tepat, memastikan akses yang efisien dan terkendali.

Platform ini cukup fleksibel untuk beradaptasi dengan kasus penggunaan tertentu, menyediakan arsitektur yang disesuaikan untuk interaksi agen dan LLM. Kemampuan Apigee mencakup perlindungan seperti integrasi dengan Model Armor milik Google Cloud untuk memeriksa permintaan dan respons guna memastikan compliance terhadap pedoman organisasi. Platform ini juga mengatasi masalah kinerja dengan mengaktifkan cache semantik untuk mengurangi latency respons dan mengarahkan permintaan ke model terbaik untuk tugas tertentu.

Selain meningkatkan kinerja dan keamanan, Apigee juga menyediakan alat pelaporan dan audit yang komprehensif, yang memberikan tim platform visibilitas ke dalam penggunaan model dan memfasilitasi compliance terhadap persyaratan pelaporan internal. Kemampuan keamanan yang tangguh memberikan perlindungan tingkat lanjut terhadap kerentanan keamanan API OWASP Top 10 dan kontrol terperinci atas akses model. Mengintegrasikan Apigee ke dalam arsitektur LLM membantu perusahaan menciptakan lingkungan yang aman dan efisien untuk aplikasi AI, membuka potensi penuh AI generatif.