Generatived（Beta）｜生成AIの最新ニュースとトレンドを提供

Citadel AI（東京都渋谷区）は、生成AIの入出力をユースケースに応じて自動フィルタリングする「Lensカスタムファイアウォール」の提供を開始すると発表した。この新しいツールは、AIに関連するセキュリティリスクやレピュテーションリスクから企業を守り、経営基盤の強化をサポートする。

企業がAIを導入する中で、セキュリティリスクやレピュテーションリスクの管理が重要になっている。Citadel AIは、業務に精通したドメインエキスパートによる監視と同等の安全性を、検証段階だけでなく運用段階でも提供する。これにより、オーバーブロッキングやアンダーブロッキングを避け、安全なAI利用を推進する。

同社の「Metric Generator」技術を用いて、カスタムメトリクスの作成を自動化し、手間を削減する。これにより、お客様のユースケースに合わせた高精度のフィルタリングが可能になる。新たにリリースされる「Lensカスタムファイアウォール」は、運用時のフィルタリングにもカスタムメトリクスを適用し、継続的な安全性を実現する。

Citadel AIは、信頼できるAIの社会実装を目指すグローバルスタートアップである。同社の製品は、AIのモデルやフォーマットに依存せず、統一化されたテストを汎用的に適用できる。国際標準業界を代表するBSI等に採用され、グローバル市場での評価も高い。