Generatived（Beta）｜生成AIの最新ニュースとトレンドを提供

datagusto（東京都）は、AIエージェントの「意図しない挙動」を防ぐAIセーフティプラットフォーム「datagusto」をリリース。従来の「静的ガードレール」に代わる新技術を提供し、AIエージェントの安全運用を支援する。

同社は、AIエージェントのリスクをリアルタイムで検知・抑止する技術を開発。安全性評価ベンチマーク「PropensityBench」を用いた検証実験で、従来手法では防げなかったインシデントを100％防止する結果を実証。

AIエージェントの増加に伴い、企業は「Safetyリスク」に直面している。datagustoは、リアルタイムで挙動を検知し、リスクを抑止する「動的ガードレール」を生成するアプローチを採用。これにより、運用工数の削済みと安全な運用が可能に。

将来は、AIエージェントの信頼性を評価・スコアリングする機能の開発を進め、マルチエージェント社会の「信頼」を支えるインフラを目指す。導入パートナー企業の募集も行っている。