ロバストインテリジェンス（米国カリフォルニア州）は、AIアプリケーションを有害な入出力から守る「AI Firewall」の提供を開始する。英語及び日本語の大規模言語モデルに対応し、リアルタイムでのリスク管理を実現する。
同社はこれまで、AIの脆弱性を検証するTest-Drivenアプローチを提供。しかし、現在のAI環境では、新たな攻撃手法が日々発見されるため、より強固な防御策が求められている。
「AI Firewall」は、運用中のAIアプリケーションの入出力を監視し、リスクを未然に防ぐ。GoogleやMicrosoftの研究を基に開発され、OWASP TOP 10 for LLMやMITRE ATLASなどのリスクフレームワークに対応している。
国内の大手保険会社をはじめ、多くの企業が導入を検討中。詳細は公式サイトで確認できる。ロバストインテリジェンスは、AIリスク対策の支援を通じて、日本市場のAI活用を促進していく方針だ。
出典：プレスリリース
