Generatif (Beta) |. Memberikan berita dan tren terkini dalam AI generatif
OpenAIが蒸留攻撃を防御
Generatived
2/10/26, 07.00
OpenAI（米国サンフランシスコ）は、モデルの思考プロセス（思考ログ）を不正に抽出して自社モデルの学習や再現に悪用する大規模な「敵対的蒸留」キャンペーンを察知し、阻止したと発表した。データベースの侵入ではなく、暗号化された思考内容の復元を促すプロンプト操作による利用規約違反行為であったとされる。
7月上旬から開始された本攻撃に対し、不正アカウントの凍結やサインアップ管理の強化、暗号化データの再生経路遮断といった技術的対策が講じられた模様だ。一連の監視・調査により、関連する1万5,000人規模のユーザーアカウント群が特定され、対応が完了したと報告されている。
同社は得られた知見をFrontier Model Forumなどを通じて業界パートナーや行政機関と共有しており、モデルの安全対策強化を呼びかけている。今後はクラウド事業者やサードパーティ展開先も含めた多層的な防御体制の構築を進め、技術抽出リスクへの対応を深めていく構想と報じられている。
Bagikan artikel ini:
Tin tức mới nhất
NVIDIA Menyoroti Fitur Offloading Host JAX untuk Pelatihan LLM
14/7/26, 09.00
NVIDIA menjelaskan bagaimana host offloading di JAX dapat mengurangi tekanan memori bandwidth tinggi GPU selama pelatihan model bahasa yang besar.
Deutsche Telekom Memperluas Penggunaan AI di Seluruh Operasi Telekomunikasi
14/7/26, 09.00
Deutsche Telekom memaparkan strateginya untuk menjadi penyedia telekomunikasi yang berbasis AI dengan menyematkan AI generatif ke dalam layanan pelanggan
%20(1).webp)
Meshy Menyelenggarakan Acara Lokakarya AI 3D di Jepang
14/7/26, 09.00
Meshy mengumumkan akan mengadakan lokakarya praktik resmi "Meshy 3D Creative Hub" pada tanggal 25 Juli di Tokyo, memberikan kesempatan kepada para kreator dan bisnis
Copyright © 2024 Generatived - All right Reserved.
Bagikan artikel ini:
Bagikan artikel ini:
Kategori
Berita
AI dan hukum/peraturan/masyarakat
Hãy theo dõi chúng tôi
Bahasa
Generatived là dịch vụ cung cấp thông tin và xu hướng chuyên về Generative AI. Chúng tôi sẽ cố gắng hết sức để cung cấp thông tin về thế giới đang thay đổi nhanh chóng.
Generatived adalah layanan yang memberikan informasi dan tren khusus dalam AI Generatif. Kami akan melakukan yang terbaik untuk menyampaikan informasi tentang dunia yang berubah dengan cepat.
Ikuti kami
Bahasa
Berita terkini
NVIDIA Menyoroti Fitur Offloading Host JAX untuk Pelatihan LLM
14/7/26, 09.00
NVIDIA menjelaskan bagaimana host offloading di JAX dapat mengurangi tekanan memori bandwidth tinggi GPU selama pelatihan model bahasa yang besar.
Deutsche Telekom Memperluas Penggunaan AI di Seluruh Operasi Telekomunikasi
14/7/26, 09.00
Deutsche Telekom memaparkan strateginya untuk menjadi penyedia telekomunikasi yang berbasis AI dengan menyematkan AI generatif ke dalam layanan pelanggan
Meshy Menyelenggarakan Acara Lokakarya AI 3D di Jepang
14/7/26, 09.00
Meshy mengumumkan akan mengadakan lokakarya praktik resmi "Meshy 3D Creative Hub" pada tanggal 25 Juli di Tokyo, memberikan kesempatan kepada para kreator dan bisnis