Generatived（Beta）｜生成AIの最新ニュースとトレンドを提供

Google（カリフォルニア州）は、悪意あるAI利用の最新動向に関する情報を公開した。同社のThreat Intelligence担当バイスプレジデント、Sandra Joyceによると、政府支援の脅威アクターやサイバー犯罪者がAIを活用し、新たなマルウェアを実験的に運用していることが確認された。

Google Cloudの公式ブログに投稿された内容によると、脅威アクターはAIを用いて生産性を向上させる段階を超え、AI対応のマルウェア「PROMPTSTEAL」を使用している。このマルウェアは、大規模言語モデルを利用し、検出を回避するために自己変更を行いながらコマンドを受信する。

Googleは、AIの不正使用に対抗するために積極的な対策を講じており、関連するプロジェクトやアカウントを無効にしている。また、GTIGはAIツールの不正使用に関するレポートを発表し、脅威アクターが攻撃ライフサイクル全体でAIをどのように統合しているかを明らかにした。

さらに、GoogleはAIツール向けのサイバー犯罪マーケットプレイスの発展を監視し、不正なAIツールの提供が増加していることを指摘。これにより、技術的に未熟な脅威アクターの参入障壁が低下していると分析している。

Googleは、責任あるAIの構築に努め、不正使用に対する保護を強化している。同社は、AIの安全性とセキュリティを向上させるために、プロダクト開発に得た知見をフィードバックし、エコシステム全体での保護を可能にするために調査結果を共有している。詳細はGTIG AI Threat Trackerレポートで確認できる。