包括的な可観測性プラットフォームであるNew Relicは、同社のAIモニタリング（AIM）ソリューションと、Amazonウェブサービスによるフルマネージド サービスであるAmazon Bedrockの統合を発表した。この統合により、AWSのお客様はNew Relicを使用してAIスタック全体の可視性と洞察を強化し、パフォーマンス、品質、コストに関するアプリケーションのトラブルシューティングと最適化を簡素化できるようになるという。
最新のアプリケーションにおけるAIの台頭により、技術スタックに新たな課題と複雑さがもたらされた。これらには、大規模言語モデル（LLM）やベクトルデータ ストアなどの新しいコンポーネントと、品質とコストを追跡するための追加のテレメトリが含まれるという。New RelicのAIMは、アプリケーションパフォーマンス管理（APM）をAIスタックに拡張することで、これらの課題に対処する。New RelicのAPMと同様に、AIMはエンジニアにAIスタックの全てのコンポーネントを完全に可視化し、パフォーマンス、コスト、品質の問題に対するさまざまなLLMプロンプトと応答をトラブルシューティング、比較、最適化するための単一のビューを提供するとのこと。
AIMとAmazon Bedrockの統合により、詳細なエンドツーエンドの可観測性が提供される。Langchainなどの組み込み統合により、Amazon Bedrockの顧客は、生のプロンプトから修復されたビジネス準拠の応答まで、LLMプロンプトと応答のライフサイクル全体にわたってメトリクスとトレースを取得できる。このコラボレーションは、AIを活用したアプリケーションの管理と最適化を強化することを目的としているとのことだ。
出典：プレスリリース
