Datadog社は、AI開発者とMLエンジニアが大規模な言語モデルアプリケーションを管理および保護できるように設計された最新の製品であるLLM Observabilityを発表した。このツールは、実稼働環境内で生成AIアプリケーションの展開とスケーリングを効率化することを目的としている。LLMに関連する複雑さとセキュリティー上の懸念に対処し、ユーザーにアプリケーションの展開を自信を持って強化するために必要な監視を提供する。

Datadogの新製品は、LLMチェーンに関する包括的な洞察を提供し、ユーザーが運用中に発生する可能性のある幻覚などのエラーを正確に特定して修正できるようにする。また、運用メトリックの監視を容易にし、パフォーマンスとコストの両方を最適化する。さらに、このツールには、AIアプリケーションの品質と安全性を評価するための評価機能が組み込まれており、セキュリティーとプライバシーのリスクの軽減に役立つ。

DatadogのLLM Observabilityは、プロンプトと応答のクラスタリング、Datadogアプリケーションパフォーマンス モニタリングとの互換性、機密データスキャン機能などの機能を統合することで、従来の監視ソリューションとは一線を画している。これらの機能は、データ プライバシーを維持しながら、生成AIアプリケーションの精度、パフォーマンス、セキュリティーを向上させるように設計されている。

LLM Observabilityのリリースは業界関係者から好意的なフィードバックを得ており、WHOOPやAppFolioなどの企業は既にこのツールを活用してAI駆動型サービスを強化している。この製品は現在広く利用可能であり、関心のある方はDatadogのウェブサイトにアクセスしてその機能とアプリケーションの詳細を確認できる。

出典:プレスリリース