Generatived（Beta）｜生成AIの最新ニュースとトレンドを提供
OpenAIがAI安全基準公開
Generatived
26/10/1 7:00
OpenAI（米国サンフランシスコ）は、最先端の強化学習モデル訓練における新たな安全性ドキュメント「セーフティケース」の評価ガイドラインを公開した。航空や原子力産業の安全基準をモデルとし、モデルのアライメント（調整）、サンドボックスによる格納、リアルタイム監視の3点を軸とした技術的セーフガードを定めている。
ガイドラインには、モデルの不正行為を検出する自動評価や環境ハックの防止策に加え、予期せぬ挙動が発生した際に即座に実験を停止する運用体制の構築が盛り込まれた。役員レベルによる拒否権付きの承認プロセスや外部監査の導入を通じ、ガバナンス体制の透明性を高める狙いとされる。
さらに意図しない不整合事案が発生した際の原因究明と情報公開の手順も明記された。同社は一連のフレームワークを自社の開発プロセスへ順次導入し、業界全体における大規模AIモデルの安全な開発基準の確立に貢献していく構想と報じられている。
最新のニュース
IT整備士協会がAI業務支援士開始
26/7/9 9:00
IT整備士協会（東京都港区）は、生成AIをバックオフィス業務で安全かつ効果的に活用できる人材を認定する新資格「AI業務支援士」を創設し、2026年7月9日から認定試験を開始すると発表した。
OptimAIzeと塩野義がAI創薬連携
26/7/9 9:00
OptimAIze Consulting（東京都千代田区）は、塩野義製薬（大阪市北区）と、AIおよびリアルワールドデータ（RWD）を活用した医薬品開発支援に関する委受託基本契約と個別契約を2026年6月に締結したと発表した。
Airia、AI予算管理機能を強化
26/7/9 9:00
Airia（米ジョージア州アトランタ）は、企業向けAI制御プラットフォームに「Enhanced Cost Optimization」を追加したと発表した。
%20(1).webp)
Copyright © 2024 Generatived - All right Reserved.
ニュース
フォローをお願いします
言語
Generatived は、Generative AIに特化した情報やトレンドをお届けするサービスです。大きく変わりゆく世界の情報を全力でお届けします。
Generatived は、Generative AIに特化した情報やトレンドをお届けするサービスです。大きく変わりゆく世界の情報を全力でお届けします。
フォローをお願いします
言語
最新のニュース
IT整備士協会がAI業務支援士開始
26/7/9 9:00
IT整備士協会（東京都港区）は、生成AIをバックオフィス業務で安全かつ効果的に活用できる人材を認定する新資格「AI業務支援士」を創設し、2026年7月9日から認定試験を開始すると発表した。
OptimAIzeと塩野義がAI創薬連携
26/7/9 9:00
OptimAIze Consulting（東京都千代田区）は、塩野義製薬（大阪市北区）と、AIおよびリアルワールドデータ（RWD）を活用した医薬品開発支援に関する委受託基本契約と個別契約を2026年6月に締結したと発表した。
Airia、AI予算管理機能を強化
26/7/9 9:00
Airia（米ジョージア州アトランタ）は、企業向けAI制御プラットフォームに「Enhanced Cost Optimization」を追加したと発表した。