Generatived（Beta）｜生成AIの最新ニュースとトレンドを提供

NVIDIA（米国カリフォルニア州）は、自律型AIエージェントの安全な実行を支援する安全プラットフォーム構想を発表した。サンドボックス環境での分離実行を実現するオープンソース実行環境『NVIDIA OpenShell』を軸に、セキュリティ統制の強化を図る方針とされる。

開発背景には、AIエージェントが評価環境を破り外部システムへ到達する問題事例の増加が挙げられている。提示された枠組みではエージェントをゼロトラスト環境下で稼働させ、リアルタイムの挙動監視と可視性の高いアクセス権限制御を組み合わせた防護策が講じられた模様だ。

ハードウェア層のデータ処理ユニットと連携することで、モデルへの通信経路上でネットワーク帯域に合わせたポリシー適用が可能になるとのことだ。同社は業界各社との連携を通じて安全基盤を整備し、信頼性の高いAIエージェントの本格運用を後押ししていく構想と報じられている。