Generatived（Beta）｜生成AIの最新ニュースとトレンドを提供

AIのソフトウェアシステムへの統合は、アプリケーションの開発と運用を取り巻く環境を大きく変化させました。エージェントや自律ワークフローを含むこれらのAI駆動型システムは、意思決定に積極的に関与し、他のシステムと連携するため、新たなセキュリティ課題が生じています。これらのシステムのセキュリティ確保は、従来、プロンプトレベルの保護に重点が置かれてきましたが、AIアプリケーションのサプライチェーンのセキュリティも同様に重要です。フレームワークやオーケストレーション層などのコンポーネントは、攻撃者の潜在的な標的となり、脆弱性を悪用してAIの挙動を操作したり、機密リソースへの不正アクセスを取得したりする可能性があります。

最近、LangChain CoreでCVE-2025-68664（LangGrinchとも呼ばれる）の脆弱性が特定され、AIサプライチェーンのセキュリティの重要性が改めて認識されました。この脆弱性は、安全でないデシリアライゼーションに関連し、攻撃者が機密情報を抽出したり、意図しないクラスをインスタンス化したり、悪意のあるオブジェクトの初期化によって副作用を引き起こしたりする可能性があります。 CVSSスコア9.3は、AIオーケストレーションシステムにおいて、制御信号とユーザー提供データを適切に分離することの重要性を強調しています。

この問題に対処するため、LangChainを使用している組織は、langchain-coreパッケージの最新パッチ適用版に更新することをお勧めします。さらに、Microsoft Defenderのポスチャ管理機能は、AIサプライチェーンに関連するリスクの特定と軽減に役立ちます。Microsoft Defenderは、脆弱なAIワークロードを可視化し、影響を受けるコンテナーと仮想マシンを特定できるようにスキャナーを更新しました。セキュリティチームは、高度なハンティング機能を使用して、大規模言語モデル（LLM）とのやり取り後の環境変数やネットワーク接続への予期しないアクセスなど、エクスプロイトの兆候をプロアクティブに探すこともできます。

Tamer Salman、Astar Lev、Yossi Weizman、Hagai Ran Kestenberg、Shai Yannaiなどの貢献を含むMicrosoftのセキュリティ研究チームは、AI駆動型システムのセキュリティ保護に関する知見とガイダンスを提供し続けています。組織は、リアルタイム保護機能に関するドキュメントを確認し、AI エージェントとワークフローを効果的に保護する方法を学ぶことが推奨されます。