Generatived（Beta）｜生成AIの最新ニュースとトレンドを提供

チューリッヒ -生成AIモデルの新しい評価フレームワークである COMPL-AI は、DeepSeek の抽出モデルに重大なコンプライアンス問題があることを明らかにしました。これらのモデルは毒性の管理には優れていますが、サイバーセキュリティやバイアス緩和などの分野では欠点が見られます。このため、企業での導入に適しているかどうか疑問が生じます。

このフレームワークは、ETH チューリッヒ、INSAIT、LatticeFlow AI の共同作業であり、規制要件を技術評価に変換する、コンプライアンス重視のアプローチを提供します。これは、著名な組織の AI モデルを評価するための独立したツールとして機能し、企業がEU AI 法に準拠しているかどうかを評価するのを支援します。

LatticeFlow AI は、COMPL-AI の最近のアプリケーションで、2 つの DeepSeek モデルを精査し、 EU AI 法に準拠しているかどうかを調査しました。調査結果から、これらのモデルはサイバーセキュリティ対策が遅れており、基礎モデルと比較してバイアス レベルが高いことが明らかになりました。ただし、毒性の軽減には優れていることが示されています。

LatticeFlow AI の CEO である Petar Tsankov 博士は、企業の AI ガバナンスを外部のコンプライアンス基準に合わせる上での技術評価の重要性を強調しました。同氏は、AI 機能が進歩しているにもかかわらず、企業は運用リスクをもたらす重大な欠陥を見逃すことはできないと指摘しました。COMPL-AI は、AI 関連のリスクを評価して対処するための徹底的かつ透明性のある方法を提供することを目指しています。