Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

OpenAI（米国サンフランシスコ）は、モデルの思考プロセス（思考ログ）を不正に抽出して自社モデルの学習や再現に悪用する大規模な「敵対的蒸留」キャンペーンを察知し、阻止したと発表した。データベースの侵入ではなく、暗号化された思考内容の復元を促すプロンプト操作による利用規約違反行為であったとされる。

7月上旬から開始された本攻撃に対し、不正アカウントの凍結やサインアップ管理の強化、暗号化データの再生経路遮断といった技術的対策が講じられた模様だ。一連の監視・調査により、関連する1万5,000人規模のユーザーアカウント群が特定され、対応が完了したと報告されている。

同社は得られた知見をFrontier Model Forumなどを通じて業界パートナーや行政機関と共有しており、モデルの安全対策強化を呼びかけている。今後はクラウド事業者やサードパーティ展開先も含めた多層的な防御体制の構築を進め、技術抽出リスクへの対応を深めていく構想と報じられている。