Generatived（Beta）｜生成AIの最新ニュースとトレンドを提供

アシュアード（東京都渋谷区）は、AIの利活用が進む企業向けにセキュリティ評価データを基にした調査結果を公表した。AIサービスの登録件数は過去3年で4.8倍に増加し、Assuredに登録されたサービスの11.4%がAI主体のものであることが明らかになった。これはAIサービスのセキュリティリスクへの意識が高まり、適切な管理・評価の必要性が認識されていることを示している。

一方で、AIを主体としないサービスの中にも、ChatGPTなどのAIを利用している「隠れAI」サービスが42.8%存在することが判明。利用者はこれらのサービスにおいて、AI特有のセキュリティ対策を確認する必要がある。Assuredは、特に重要なセキュリティ項目を抽出し公開している。

AIサービスにおける利用規約の明示や学習データの収集・利用ルールは、約半数のサービスでしか策定されていない。未実施の場合、将来的に学習データとして利用されるリスクがあるため、企業は注意が必要だ。さらに、預託データを学習に利用するサービスの中で、ルールを定めていないものが22%存在し、機密情報の漏洩リスクが懸念される。

AIサービスのセキュリティ対策には、品質管理や攻撃対策が不可欠だが、約4割のサービスでこれらが未実施であることが分かった。AIの出力結果の評価やバイアスのモニタリング、攻撃手法への対応が不十分な場合、情報の不正確さやセキュリティの脆弱性が問題となる。Assuredは、企業が安心してクラウドサービスを利用できるよう、客観的なセキュリティ評価を提供し続けるとしている。