AI および ML セキュリティの大手企業である Protect AI は、AI/ML オープンソース ソフトウェア、基礎モデル、および ML システムの保護に特化した画期的なバグ報奨金プラットフォームであるhuntrの立ち上げを発表しました。 Black Hat USA のシルバー スポンサーとして、Protect AI はブース 2610 でhuntr AI/ML バグ報奨金プラットフォームを展示しています。huntrの立ち上げは、Protect AI が Huntr.dev を買収した後に行われ、huntr.dev は 2022 年にすぐに世界で 5 番目に大きい共通脆弱性およびエクスポージャー (CVE) の認定命名機関になりました。オープンソースを専門とする 1 万人を超えるセキュリティ研究者の広大なネットワークを備えています。ソフトウェアのハンターは、OSS セキュリティの研究開発の最前線に立ってきました。この成功により、Protect AI は AI/ML 脅威研究の重要なニーズに対応できるようになりました。今日の AI を活用した世界では、ビッグ データ、AI、BI、ML コードベースのコードのかなりの部分がオープンソース コンポーネントに依存しています。ただし、これらのコードベースの 40% 以上には高リスクの脆弱性が存在します。たとえば、Protect AI の研究者は、MLflow に重大な脆弱性を発見しました。これにより、攻撃者がクラウド アカウントへのフル アクセスを取得し、独自のデータを盗み、ML モデルの形式で重要な IP を公開できる可能性があります。さらに、セキュリティ研究分野では AI/ML のスキルや専門知識が不足しているため、AI セキュリティの脅威を特定することが困難になっています。これは、潜在的なセキュリティ上の欠陥を発見し、企業の機密データと AI アプリケーションの整合性を保護するために、包括的な AI/ML セキュリティ研究が緊急に必要であることを浮き彫りにしています。huntrプラットフォームは、直感的なナビゲーション、ターゲットを絞ったバグ報奨金、合理化されたレポート、月例コンテスト、コラボレーション ツール、脆弱性レビュー、利用可能な最高額の AI/ML 報奨金を備えた包括的な AI/ML バグ ハンティング環境をセキュリティ研究者に提供します。最初のコンテストはHugging Faceトランスフォーマーに焦点を当てており、多額の賞金 50,000 ドルが提供されます。また、huntr は AI/ML セキュリティ研究における知識のギャップを埋め、Protect AI の Machine Learning Security Operations (MLSecOps) コミュニティの不可欠な部分として機能します。ハンターのバグ報奨金プラットフォームに参加することで、セキュリティ研究者は AI/ML セキュリティの専門知識を獲得し、新たな専門的な機会を創出し、金銭的報酬を受け取ることができます。