Generatived（Beta）｜生成AIの最新ニュースとトレンドを提供

ダークトレース（英国ケンブリッジ）は、企業のAI導入を安全に支援する新製品「Darktrace / SECURE AI™」を発表した。この製品は、AIエージェントの行動や意図、リスクを理解し、AIライフサイクル全体にわたるリアルタイムの可視性とコントロールを提供する。SaaSアプリケーションやハイパースケーラー環境で開発されたAIエージェント、シャドーAIの利用に対する保護も行う。

同社のビヘイビアAI技術を活用した「Darktrace / SECURE AI」は、AIシステムの異常な動作やポリシー違反を検知し、介入することが可能だ。企業がAIを本格運用する中で、従来のセキュリティコントロールでは対応しきれない問題に対処する。AIの相互動作やプロンプトの言語、データアクセスのパターンを分析し、リスクを検知する。

ダークトレースのCISO、マイク・ベックは「AIシステムは予測不可能な振る舞いをすることがあります。私たちはビヘイビアベースのアプローチを適用し、セキュリティチームがAIの実際の行動を確認できるようにします」と述べた。また、CTOのジャック・ストックデールは「セキュリティはビヘイビアの問題です。AIのプロンプトをランタイムで監視し理解することが重要です」と強調した。

組織がAIツールを大規模に利用する中、ダークトレースは「Darktrace / SECURE AI」を通じて、AIの安全な使用と管理を実現するソリューションを提供する。AIエージェントのアクセス権限を追跡し、リスクを評価し、シャドーAIを管理する機能を備えている。同社の調査によると、サイバーセキュリティプロフェッショナルの3/4以上がAIエージェントやサードパーティ製生成AIツールの普及によるセキュリティ上の影響に懸念を示している。