Generatived（Beta）｜生成AIの最新ニュースとトレンドを提供

MITRE と Robust Intelligence は協力して、組織が公開されている AI モデルに関連するサプライ チェーンのリスクを評価するのに役立つ無料ツールを強化しました。この提携には、インディアナ大学と協力して自動リスク評価ツールを開発することも含まれます。パブリック リポジトリで洗練された AI モデルが利用可能になるにつれて、組織は AI をシステムにより簡単に組み込むことができるようになりました。ただし、関連するリスクを評価するための独立したテストのためのツールは限られています。この問題に対処するために、Robust Intelligence は 2023 年 3 月にコミュニティ リソースとして AI リスク データベースを作成しました。 MITRE との協力によるさらなる機能強化を経て、新しいオープンソース バージョンがGitHubでアクセスできるようになりました。長期的な計画は、これを広範な MITRE ATLASツール セットの下でホストすることです。ATLAS は、現実世界の攻撃観察と AI レッド チーミングに基づいた敵の戦術とテクニックのリストを含む、世界的にアクセス可能なナレッジ ベースです。また、攻撃エミュレーションを可能にする他のツールへのリンクも提供します。ロバスト インテリジェンスと MITRE の連携を通じて、リスク スコア、ソフトウェアの脆弱性、関連する CVE などのリスクが特徴付けられ、運用可能になります。これらの特徴付けは、オープンソース AI モデルを使用するときに発生する可能性のあるリスクと脆弱性に対する意識を高めるでしょう。MITRE のエンジニアリングおよびプロトタイピング担当副社長であるダグラス・ロビンス氏は、「このコラボレーションと AI リスク データベースのリリースにより、より多くの組織が、特定の種類の AI 対応システムを導入する際に、どのようなリスクに直接さらされ、脆弱であるかを自らの目で確認できるようになります。」と述べています。 」同氏は、この機能はMITRE ATLASの下での最新のオープンソースツールとして、今後も世界中のリスク評価と緩和の優先事項に情報を提供し続けるだろうと付け加えた。インディアナ大学のケリーのデータ サイエンスおよび人工知能研究所もこのコラボレーションに参加しており、サードパーティ プラットフォームで利用可能なモデルの作成に使用されるGitHubリポジトリをスキャンする機能が組み込まれています。この機能を使用すると、ユーザーは、配布されたモデル アーティファクトの上流に存在する、公的に報告されたソフトウェアの脆弱性を特定できます。Robust Intelligence の CEO 兼共同創設者である Yaron Singer 氏は、組織がパブリック モデルのセキュリティ、倫理、運用上のリスクを簡単に評価できるようにするという MITRE の目標を推進するために MITRE と提携することに興奮を表明しました。同氏は、MITRE ATLAS が AI リスク データベースの理想的な管理者であり、両社の共同専門知識が将来的にオープンソース モデルの安全な使用を可能にするだろうと信じています。MITRE、Robust Intelligence、および広範な AI セキュリティおよび保証コミュニティとの協力により、コミュニティがサポートする無料のリソースとして AI リスク データベースの影響と有用性が拡大し続けます。