Generatived（Beta）｜生成AIの最新ニュースとトレンドを提供
.webp)
CPR警告:AIモデル悪用の脅威増大
Generatived
25/2/10 13:30
チェック・ポイント（イスラエル）の脅威インテリジェンス部門であるCPRは、AIモデル「DeepSeek」と「Qwen」が悪用されていることを発見。サイバー犯罪者がChatGPTからこれらの新型AIに移行し、悪意あるコンテンツの開発に利用していると報告。
脅威アクターはAIモデルを操作し、検閲されていないコンテンツを生成する「ジェイルブレイク」手法を共有。これにより、ハッカーや犯罪者がAIを悪用しやすくなっている。詳細なガイドが出回り、マルウェア開発などの方法が解説されている。
CPRは、サイバー犯罪者がAIモデルを悪用し、有害なコンテンツを作成する手法について詳しく解説。進化する脅威に対し、警戒を強める必要があると警告している。
DeepSeekやQwenは、制限なく悪意あるコンテンツを作成可能なツールとなり得る。ChatGPTは不正利用対策を強化しているが、新型AIモデルは悪用防止機能が不十分。これにより、攻撃者による利用が急増している。
最新のニュース
OpenAI、AI導入支援会社を設立
26/5/13 9:00
OpenAI（米カリフォルニア州）は、企業向けAI導入支援を担う新会社「OpenAI Deployment Company」の設立を発表した。
3社、秘密分散型RAGを開発
26/5/12 9:00
イージス・アプリケーション、ZenmuTech、Technica AIの3社は、秘密分散技術とRAG（検索拡張生成）を組み合わせた「秘密分散×RAGソリューション」を共同開発したと発表した。
サージクラフト、AI対応基盤を提供開始
26/5/12 9:00
サージクラフトは、LINEやメール、Webチャット、SNSなど複数チャネルの問い合わせを一元管理し、AIによる回答生成と人間レビューを組み合わせたカスタマーサポートAIプラットフォーム「TuneAIBot」の提供を開始したと発表した。
%20(1).webp)
Copyright © 2024 Generatived - All right Reserved.
ニュース
フォローをお願いします
言語
Generatived は、Generative AIに特化した情報やトレンドをお届けするサービスです。大きく変わりゆく世界の情報を全力でお届けします。
Generatived は、Generative AIに特化した情報やトレンドをお届けするサービスです。大きく変わりゆく世界の情報を全力でお届けします。
フォローをお願いします
言語
最新のニュース
OpenAI、AI導入支援会社を設立
26/5/13 9:00
OpenAI（米カリフォルニア州）は、企業向けAI導入支援を担う新会社「OpenAI Deployment Company」の設立を発表した。
3社、秘密分散型RAGを開発
26/5/12 9:00
イージス・アプリケーション、ZenmuTech、Technica AIの3社は、秘密分散技術とRAG（検索拡張生成）を組み合わせた「秘密分散×RAGソリューション」を共同開発したと発表した。
サージクラフト、AI対応基盤を提供開始
26/5/12 9:00
サージクラフトは、LINEやメール、Webチャット、SNSなど複数チャネルの問い合わせを一元管理し、AIによる回答生成と人間レビューを組み合わせたカスタマーサポートAIプラットフォーム「TuneAIBot」の提供を開始したと発表した。