OpenAI（サンフランシスコ）は、詐欺被害防止に向けカンボジアを拠点とする犯罪組織のChatGPTアカウント群を破棄したと発表した模様である。該当組織はロマンス詐欺や暗号資産への投資勧誘、警察機関へのなりすましなど多角的な詐欺活動に生成AIを悪用していたとされる。

同社によれば、犯行グループは架空の人物像の生成や被害者へ送るメッセージの自動翻訳、偽造文書画像の作成などにAIサービスを利用していたとのことだ。さらにスタッフ間の連絡や労働管理といった運用基盤の事務作業にもAIが導入されていたと伝えられている。

調査過程では求人詐欺や人身売買、強制労働を示唆するデータも確認された模様である。東南アジアの複合施設で労働者が不当に拘束されている実態が浮き彫りとなり、同社は関係機関や他社と情報共有を実施して被害拡大の抑制を図っていると報じられている。