Anthropic は「Frontier Model Security」という記事を投稿しました。記事のポイントはこちらです。フロンティア AI モデルがより高度になるにつれて、そのセキュリティが最優先事項になります。これらのシステムの安全性を確保するために、AI 企業 Anthropic はいくつかのセキュリティ対策を導入し、業界全体で強力なサイバーセキュリティの実践を提唱しています。彼らは、重要な環境に単一の人間が永続的にアクセスできない「二者制御」システムと、AI に不可欠なインフラストラクチャの設計に対する複数の者による承認を推奨しています。また、NIST セキュア ソフトウェア開発フレームワーク (SSDF) とソフトウェア アーティファクトのサプライ チェーン レベル (SLSA) を AI モデル開発に適用することも提案しています。 Anthropic はこれらの実践を実施しており、他の AI ラボにも同様の実践を奨励しています。彼らはまた、高度な AI セクターを重要なインフラストラクチャーとして扱い、AI テクノロジーの保護における官民協力を提唱しています。 Anthropic は、生産性に対する潜在的な課題にもかかわらず、AI 開発におけるセキュリティの重要性を強調し、責任ある安全な AI 開発に取り組んでいます。