Kaspersky（ロシア）のDigital Footprint Intelligence部門は、ダークウェブ上でChatGPTなどのAI技術を悪用する投稿を多数確認。サイバー犯罪者がチャットボットの構築やジェイルブレークを実行するプロンプトセットの提供などを行っているという。
同部門の調査によると、2023年にChatGPTを違法に使用する投稿が3,000件近くあり、4月に最多を記録した後も継続中。アリサ・クリシェンコ氏は「攻撃者はAIを利用したマルウェア開発や盗まれたデータの処理に注力している」と指摘。
また、ダークウェブでは「XXXGPT」「FraudGPT」などのChatGPT代替モデルも注目されており、これらは追加機能を備え、制限がないとされる。盗まれたChatGPTアカウントの販売や自動作成サービスの広告も3,000件近く確認された。
クリシェンコ氏は「AIツールは危険ではないが、犯罪者が効率的な利用法を見つけることでサイバー攻撃のハードルが下がる」と述べ、企業は攻撃者の行動を把握し、防御を自動化することが重要だと強調。Kasperskyはサイバーセキュリティー企業として、個人から企業まで幅広い保護を提供している。
出典：プレスリリース
