Generatived（Beta）｜生成AIの最新ニュースとトレンドを提供

ソフトウェアのセキュリティ上の欠陥を特定し、対処するための広く認知された手法である共通脆弱性識別子（CVE）システムは、企業システムにおける人工知能（AI）モデルの台頭に伴い、新たな課題に直面しています。セキュリティ専門家は、AIモデルが、従来のCVEの脆弱性の定義に当てはまらない、敵対的なプロンプトや汚染されたトレーニングデータといった特有のリスクを伴うことから、AIモデルをCVEシステムに含めるべきかどうかについて議論しています。

専門家の間では、CVEはモデルそのものではなく、AIモデルを利用するアプリケーションやフレームワークを主に対象とすべきだという点でコンセンサスが高まっています。AIモデルは本質的にパラメータ化された数学的システムであり、真のセキュリティ上の懸念は、データ処理やセッション管理など、AIモデルを取り巻くコードにあります。AIモデルにCVEを割り当てることは、モデルを実装するフレームワークやツールに内在するリスクの性質を誤って伝える可能性があります。

AIモデルへのCVEの適用を検討する際には、これらのモデルの確率的な動作と真のセキュリティ上の脆弱性を区別することが重要です。 AIモデルに関する問題の多くは、特定のインスタンスに固有のものではなく、機械学習システム全般に共通するものです。そのため、AIモデル向けのCVEは実用的な情報を提供できず、CVEシステムの有効性を弱める可能性があります。

CVEを適切に適用するには、AIモデル自体ではなく、悪用される可能性のあるフレームワークやアプリケーションに焦点を当てる必要があります。このアプローチにより、CVEは、開発者やセキュリティチームが対処できる真のセキュリティ上の弱点を追跡・軽減するための貴重なリソースであり続けることができます。セキュリティコミュニティは、統計的な動作を脆弱性として分類するのではなく、サプライチェーンの保証、アクセス制御、監視を強化し、AIモデルを取り巻くエコシステムを強化することが強く求められています。