Generatived（Beta）｜生成AIの最新ニュースとトレンドを提供

OpenAI（米国カリフォルニア州）は、最先端AIモデルの安全性向上に向けた第三者評価機関による検証の優先領域と基本原則を発表した。モデルの訓練から配備に至る各段階において外部専門機関へのアクセスを認め、独立した立場での検証と安全性の確保を推進する方針とされる。

重点項目として安全ケースの独立検証、防護機能の堅牢性評価、潜在的リスクを測定する能力評価、および意図しない動作が起きた際の不整合事故の調査が挙げられた。モデル思考過程の提示や高度なシステムアクセス権限を供与し、不備の事前検知に繋げる模様だ。

客観性を担保するため、評価の事前登録や機密保持基準、利益相反の排除といった原則も提示されている。民間や非営利の専門組織との連携を深めることで技術的基準の策定を急ぎ、AI安全領域における国際的な標準化を主導していく構想と報じられている。