Kong（サンフランシスコ）のCTO兼共同創設者Marco Palladinoは、「世界中の開発者と企業のためにAIを民主化するKongの取り組みにおいて、本リリースは非常に重要なマイルストーンとなる」と述べた。AI機能群をオープンソース化し、ノーコードのAIプラグインを提供することで、AIの導入障壁を取り除き、開発者が迅速にAI搭載アプリケーションを提供できるようになるという。
Kong Gateway 3.6のアップグレードにより、開発者はAIとLLMの利用に特化した新しいプラグイン群を利用可能になる。'ai-proxy'プラグインは、OpenAIやAzure AIなどのLLMをネイティブサポートし、複数のLLM実装の統合を可能にする。AI認証管理やレイヤー7のAIメトリクス収集など、新機能が提供される。
また、'ai-request-transformer'と'ai-response-transformer'プラグインにより、APIリクエストとレスポンスにAI機能をコードなしで組み込むことができる。'ai-prompt-decorator'プラグインは、AIプロンプトのコンテキストを一貫した構成にし、'ai-prompt-guard'プラグインはフリーフォーマットのプロンプトを管理する。
Kongは、AIトラフィックの管理、セキュリティー、監視を一元化し、1,000を超える公式プラグインおよびコミュニティープラグインを活用することで、アクセス制御やレート制限などを実現する。AI Gateway Webinarは2024年3月21日に開催され、詳細はhttps://konghq.zoom.us/webinar/register/WN_mudJPleYQSq7LDrXu90ecQ＃/registrationで確認できる。KongのAI Gatewayの詳細はhttps://docs.konghq.com/gateway/latest/get-started/ai-gateway/で提供されている。
出典：プレスリリース
