Generatived（Beta）｜生成AIの最新ニュースとトレンドを提供

OpenAIは、AIモデルの安全性の評価と強化における重要なコンポーネントであるRed Teaming Networkへの参加をさまざまな分野の専門家に招待している。このネットワークは、内部テストから外部専門家とのコラボレーションまで発展し、ドメイン固有のリスク評価に焦点を当てている。目標は、専門家、研究機関、市民社会組織とのこうした連携を深め、拡大し、第三者監査などの外部ガバナンスの実践を補完することだ。ネットワークのメンバーは、年間5 ～ 10時間という短い時間で、モデル開発のさまざまな段階でレッドチームの取り組みに専門知識を活用する。さらに、メンバーはレッドチームの実践や調査結果について互いに意見交換する機会がある。OpenAIは、認知科学、サイバーセキュリティー、言語学などを含むがこれらに限定されない、世界中のさまざまな分野や地域から多様な専門知識を求めている。AIシステムに関する以前の経験は前提条件ではなく、貢献に対して報酬が提供される。このネットワークは、より安全なAIテクノロジーとポリシーの開発に影響を与えるユニークな機会を提供する。OpenAIは、専門知識、地理的表現、背景の多様性を重視している。メンバーは全てのレッドチームプロジェクトに参加する義務はなく、関係者に柔軟性を提供する。Red Teaming Networkに加えて、他の協力的なAI安全性の機会が利用可能だ。これらには、OpenAIのオープンソースEvalsリポジトリーへの貢献や、責任あるAIの導入とリスク軽減に関連する研究をサポートする研究者アクセスプログラムへの申請が含まれる。