Generatived（Beta）｜生成AIの最新ニュースとトレンドを提供

GMOサイバーセキュリティ byイエラエ（東京都渋谷区）は三菱総研ＤＣＳ（東京都品川区）と共に、生成AIのセキュリティ強化に向けた協業を発表した。2024年11月28日から「生成AI利用システムセキュリティ診断」サービスを開始するという。このサービスは、GMOサイバーセキュリティ byイエラエが開発した「LLMセキュリティ診断」を活用し、GPTなどのLLMを用いたシステムのリスクを評価する。

生成AIの普及に伴い、新たなセキュリティリスクが顕在化している。三菱総研ＤＣＳは金融業界でのセキュリティ対策の知見を持ち、GMOサイバーセキュリティ byイエラエはホワイトハッカーの専門知識を有している。両社の協力により、AIを搭載したシステムの脅威を特定し、対策を提案する。

「生成AI利用システムセキュリティ診断」では、GPT-3.5やGPT-4などのLLMを対象に、敵対的プロンプトを用いた擬似攻撃を実施し、セキュリティリスクを検出する。サービスページ（https://www.dcs.co.jp/solution/ai_diagnostic/）にて詳細を確認できる。

今後、GMOサイバーセキュリティ byイエラエと三菱総研ＤＣＳは、AI技術の進化に伴うセキュリティリスクへの対応策を強化し、顧客のAI活用を支援する方針だ。さらに他分野での連携も模索し、サイバーリスクへの対応力を高めることで、安心を提供するとしている。