Generatived（Beta）｜生成AIの最新ニュースとトレンドを提供
.webp)
CPR警告:AIモデル悪用の脅威増大
Generatived
25/2/10 13:30
チェック・ポイント（イスラエル）の脅威インテリジェンス部門であるCPRは、AIモデル「DeepSeek」と「Qwen」が悪用されていることを発見。サイバー犯罪者がChatGPTからこれらの新型AIに移行し、悪意あるコンテンツの開発に利用していると報告。
脅威アクターはAIモデルを操作し、検閲されていないコンテンツを生成する「ジェイルブレイク」手法を共有。これにより、ハッカーや犯罪者がAIを悪用しやすくなっている。詳細なガイドが出回り、マルウェア開発などの方法が解説されている。
CPRは、サイバー犯罪者がAIモデルを悪用し、有害なコンテンツを作成する手法について詳しく解説。進化する脅威に対し、警戒を強める必要があると警告している。
DeepSeekやQwenは、制限なく悪意あるコンテンツを作成可能なツールとなり得る。ChatGPTは不正利用対策を強化しているが、新型AIモデルは悪用防止機能が不十分。これにより、攻撃者による利用が急増している。
最新のニュース
サイバーエージェント AI介在分析機能公開
26/7/1 9:00
サイバーエージェント（東京都渋谷区）は、コーディングエージェントの実行履歴を分析し、人間による確認や介入（Human-in-the-Loop）の頻度や内容を可視化するスキル「hitl-harness-improver」をGitHubで公開したと発表した。
Google フルスタックAI戦略を解説
26/7/1 9:00
Google（米国カリフォルニア州）は、Google Cloudで開発者向け技術支援を担当するRichard Seroter氏へのインタビューを通じ、「フルスタックAI」の考え方や戦略について説明した。
%20(1).webp)
Microsoft AI偽装拡張機能を警告
26/7/1 9:00
Microsoft（米国ワシントン州）は、AI検索サービス「Perplexity AI」を装った悪意あるChromium拡張機能を確認したと発表した。
Copyright © 2024 Generatived - All right Reserved.
ニュース
フォローをお願いします
言語
Generatived は、Generative AIに特化した情報やトレンドをお届けするサービスです。大きく変わりゆく世界の情報を全力でお届けします。
Generatived は、Generative AIに特化した情報やトレンドをお届けするサービスです。大きく変わりゆく世界の情報を全力でお届けします。
フォローをお願いします
言語
最新のニュース
サイバーエージェント AI介在分析機能公開
26/7/1 9:00
サイバーエージェント（東京都渋谷区）は、コーディングエージェントの実行履歴を分析し、人間による確認や介入（Human-in-the-Loop）の頻度や内容を可視化するスキル「hitl-harness-improver」をGitHubで公開したと発表した。
Google フルスタックAI戦略を解説
26/7/1 9:00
Google（米国カリフォルニア州）は、Google Cloudで開発者向け技術支援を担当するRichard Seroter氏へのインタビューを通じ、「フルスタックAI」の考え方や戦略について説明した。
Microsoft AI偽装拡張機能を警告
26/7/1 9:00
Microsoft（米国ワシントン州）は、AI検索サービス「Perplexity AI」を装った悪意あるChromium拡張機能を確認したと発表した。