Generatived(Beta)|生成AIの最新ニュースとトレンドを提供
.webp)
CPR警告:AIモデル悪用の脅威増大
Generatived
25/2/10 13:30
チェック・ポイント(イスラエル)の脅威インテリジェンス部門であるCPRは、AIモデル「DeepSeek」と「Qwen」が悪用されていることを発見。サイバー犯罪者がChatGPTからこれらの新型AIに移行し、悪意あるコンテンツの開発に利用していると報告。
脅威アクターはAIモデルを操作し、検閲されていないコンテンツを生成する「ジェイルブレイク」手法を共有。これにより、ハッカーや犯罪者がAIを悪用しやすくなっている。詳細なガイドが出回り、マルウェア開発などの方法が解説されている。
CPRは、サイバー犯罪者がAIモデルを悪用し、有害なコンテンツを作成する手法について詳しく解説。進化する脅威に対し、警戒を強める必要があると警告している。
DeepSeekやQwenは、制限なく悪意あるコンテンツを作成可能なツールとなり得る。ChatGPTは不正利用対策を強化しているが、新型AIモデルは悪用防止機能が不十分。これにより、攻撃者による利用が急増している。
最新のニュース
Meta、AI基盤支える計算資源強化
26/6/19 9:00
Meta(米国カリフォルニア州メンローパーク)は、AIサービスを支える計算資源(コンピュート)の重要性と、自社のインフラ戦略について説明した。
NVIDIA、DiffusionGemma高速化支援
26/6/19 9:00
NVIDIA(米国カリフォルニア州サンタクララ)は、Google DeepMindが公開した実験的オープンモデル「DiffusionGemma」の最適化を進め、RTX GPUやRTX PRO、DGX Spark環境で高速動作を実現したと発表した。
NVIDIA、DiffusionGemma活用拡大
26/6/18 9:00
NVIDIA(米国カリフォルニア州サンタクララ)は、Google DeepMindが開発したDiffusionGemmaについて、NVIDIAプラットフォーム向け最適化と企業向け展開支援を強化したと発表した。


%20(1).webp)

.webp)