Generatived（Beta）｜生成AIの最新ニュースとトレンドを提供

OpenAIは、AIアプリケーションにおける潜在的な悪用や安全リスクを特定・軽減することを目的とした新たな「セーフティバグバウンティプログラム」の開始を発表しました。このプログラムは、セキュリティ脆弱性として認識されない場合でも、現実世界に深刻な被害をもたらす可能性のある問題に対処することで、システムのセキュリティ維持を目指します。本プログラムは、従来はセキュリティ脅威として認識されていなかったものの、重大な危険性をはらむ可能性のある問題を特定し、解決するために、研究者との連携を呼びかけています。

本プログラムは、OpenAIの既存の「セキュリティバグバウンティプログラム」と並行して運用され、AI特有の安全シナリオに焦点を当てます。これには、AIエージェントが悪意のある行動を実行したり、機密データを漏洩させたりする可能性のあるエージェント的挙動のリスク、およびOpenAIの専有情報の漏洩リスクが含まれます。さらに、本プログラムは、自動化対策の回避や不正な機能へのアクセスなど、アカウントやプラットフォームの整合性を損なう脆弱性にも対処します。

セーフティバグバウンティプログラムに参加する研究者は、ユーザーに直接的な被害をもたらす可能性のある問題を報告することが推奨され、個々のケースに応じて報酬が支払われる可能性があります。しかし、このプログラムは明確な境界線を設けており、安全面や悪用への影響が明確に示されない一般的なコンテンツポリシーの回避は対象外としている。OpenAIはまた、特定の種類の有害事象を対象とした非公開のバグ報奨金キャンペーンを実施しており、研究者に対し、これらの専門的な取り組みへの応募を呼びかけている。