Generatived（Beta）｜生成AIの最新ニュースとトレンドを提供

チェック・ポイントとLakeraは、英国AIセキュリティ研究所と共同で、AIエージェントのセキュリティ評価ツール「b3」を開発した。このツールは「脅威スナップショット」に基づき、AIモデルの脆弱性を特定する。

「b3」は、AIモデルのセキュリティを評価するために、19,433件の攻撃データセットと10種類の「脅威スナップショット」を組み合わせた。これにより、様々な攻撃シナリオにおけるモデルの耐性を検証できる。

Lakeraのマテオ・ロハス＝カルーラ氏は、b3ベンチマークの開発意図を説明。「脅威スナップショット」を通じて、AIエージェントのセキュリティを向上させることが目的だと述べた。b3はオープンソースとして提供されている。

また、LakeraはGandalf: Agent Breakerというゲーム化されたレッドチーミング演習ツールも開発。これはAIエージェントに対する攻略をシミュレートするハッキングゲームで、実際のAIアプリケーションの動作を再現している。