Generatived（Beta）｜生成AIの最新ニュースとトレンドを提供

NVIDIA（サンフランシスコ）は、自律型AIエージェントの安全性を確保するための階層型セキュリティモデルを提唱した模様だ。エージェントが複雑なタスクを実行する中で意図しない動作を防ぐため、モデルやハーネスの挙動制御と、実行環境による強固な権限制限を分離して管理する手法を提示しているとされる。

同モデルでは、プロンプトやロジックによる行動誘導だけでなく、システム側で権限の絶対的な境界を定義することが重要視されているとのことだ。オープンソースの「OpenShell」などを基盤とし、アクセス権限を最小限に抑えつつ、すべての動作ログを確実に記録・監査する構造が盛り込まれていると伝えられている。

さらにリスクレベルに応じた4段階のセキュリティプロファイルが設定され、開発段階から運用環境まで柔軟に対応する設計となっているようだ。安全なエコシステムの構築に向け、業界全体での知見共有やフレームワークの標準化を後押ししていく構想と報じられている。