Generatived（Beta）｜生成AIの最新ニュースとトレンドを提供

WhyLabsは、チームにAIアプリケーションのリアルタイム管理を提供する新しいAI運用プラットフォーム、AIコントロールセンターを導入した。このプラットフォームは、最新世代のAIテクノロジーがもたらす複雑なセキュリティーと信頼性の課題に対応するために作成された。ユーザープロンプトやアプリケーション メタデータなど、さまざまなソースからリアルタイムのデータ評価を提供して潜在的な脅威を特定することで、AIシステムの安全性と信頼性を高めることを目指している。

同社のAIコントロールプラットフォームは、脅威を即座に検出して防止するように設計されており、応答時間は300ミリ秒未満、精度は93%だ。WhyLabsのCEOであるAlessya Visnjic氏は、特に生成AIイニシアチブがプロトタイプから実稼働段階に移行する中で、AIアプリケーションにおけるプロアクティブなセキュリティー対策の重要性を強調した。

YoodliやGlassdoorなどのクライアントは、新しいプラットフォームへの支持を表明している。Generative生成AIスピーチコーチングアプリケーションを開発しているYoodliは、プラットフォームの適応性と信頼性を称賛した。Glassdoorは、プラットフォームの継続監視とカスタマイズ機能が、LLMアプリケーションの安全で信頼性の高い運用に不可欠であると強調した。

AIコントロールプラットフォームは、WhyLabsの既存の可観測性ツールを基盤として、セキュリティーの脅威から保護し、ユーザーの安全を確保するための一連の機能を提供する。これには、チャットボットの誤用の防止、不適切な出力の検出、カスタマイズ可能な脅威検出ルールが含まれる。このプラットフォームは、迅速な問題解決と継続的なモデル改善も促進するため、高品質のAI搭載アプリケーションの維持を目指す組織にとって包括的なソリューションとなる。