NRIセキュア（東京都千代田区）は、生成AIを利用するシステムやサービス向けのセキュリティー診断サービス「AI Red Team」を開始した。このサービスは、AIセキュリティー統制支援の一環として提供され、大規模言語モデル（LLM）などのAIが抱える脆弱性やリスクに対応するとのこと。
生成AI、特にLLMの利用が増える中、脆弱性やリスクが問題視されている。NRIセキュアは、これらの問題を把握し、適切な対策を施すために、専門家が疑似攻撃を行い、AI固有の脆弱性とシステム全体の問題点を評価するとのこと。
本サービスは、自動テストと専門家による調査を組み合わせ、効率的かつ網羅的な診断を実施する。また、システム全体のリスクを評価し、対策コストの削減にも貢献するという。
さらに、NRIセキュアは「AI Blue Team」サービスも開発中で、2024年4月の提供開始を予定している。これにより、生成AIを利用したシステムのセキュリティー対策を継続的に支援する計画だという。
出典：プレスリリース
