Generatived（Beta）｜生成AIの最新ニュースとトレンドを提供
OpenAIが蒸留攻撃を防御
Generatived
26/10/2 7:00
OpenAI（米国サンフランシスコ）は、モデルの思考プロセス（思考ログ）を不正に抽出して自社モデルの学習や再現に悪用する大規模な「敵対的蒸留」キャンペーンを察知し、阻止したと発表した。データベースの侵入ではなく、暗号化された思考内容の復元を促すプロンプト操作による利用規約違反行為であったとされる。
7月上旬から開始された本攻撃に対し、不正アカウントの凍結やサインアップ管理の強化、暗号化データの再生経路遮断といった技術的対策が講じられた模様だ。一連の監視・調査により、関連する1万5,000人規模のユーザーアカウント群が特定され、対応が完了したと報告されている。
同社は得られた知見をFrontier Model Forumなどを通じて業界パートナーや行政機関と共有しており、モデルの安全対策強化を呼びかけている。今後はクラウド事業者やサードパーティ展開先も含めた多層的な防御体制の構築を進め、技術抽出リスクへの対応を深めていく構想と報じられている。
最新のニュース
NVIDIAがAI開発基盤を拡充
26/7/29 14:00
NVIDIA（米国カリフォルニア州）は、半導体設計におけるRTL開発および検証処理を支援するAIモデル「Nemotron 3 Ultra」の成果を公開した模様である。
NVIDIAがモデル転送高速化技術を発表
26/7/29 14:00
NVIDIA（米国カリフォルニア州）は、大規模AIモデルの重みデータをGPUへ高速転送する技術「ModelExpress」を発表した模様である。
%20(1).webp)
NVIDIA、韓国のAIエコシステムとの協力を大幅拡張
26/7/28 9:00
NVIDIA（カリフォルニア州サンタクララ）は、サンフランシスコで開催された「AI Summit」において、韓国の李在明大衆大統領をはじめとする同国の政財界リーダーらと会談し、国家規模のAIインフラおよびエコシステムの拡張に向けた大規模なパートナーシップを発表した。
Copyright © 2024 Generatived - All right Reserved.
ニュース
フォローをお願いします
言語
Generatived は、Generative AIに特化した情報やトレンドをお届けするサービスです。大きく変わりゆく世界の情報を全力でお届けします。
Generatived は、Generative AIに特化した情報やトレンドをお届けするサービスです。大きく変わりゆく世界の情報を全力でお届けします。
フォローをお願いします
言語
最新のニュース
NVIDIAがAI開発基盤を拡充
26/7/29 14:00
NVIDIA（米国カリフォルニア州）は、半導体設計におけるRTL開発および検証処理を支援するAIモデル「Nemotron 3 Ultra」の成果を公開した模様である。
NVIDIAがモデル転送高速化技術を発表
26/7/29 14:00
NVIDIA（米国カリフォルニア州）は、大規模AIモデルの重みデータをGPUへ高速転送する技術「ModelExpress」を発表した模様である。
NVIDIA、韓国のAIエコシステムとの協力を大幅拡張
26/7/28 9:00
NVIDIA（カリフォルニア州サンタクララ）は、サンフランシスコで開催された「AI Summit」において、韓国の李在明大衆大統領をはじめとする同国の政財界リーダーらと会談し、国家規模のAIインフラおよびエコシステムの拡張に向けた大規模なパートナーシップを発表した。