Generatived（Beta）｜生成AIの最新ニュースとトレンドを提供
OpenAIがAI安全基準公開
Generatived
26/10/1 7:00
OpenAI（米国サンフランシスコ）は、最先端の強化学習モデル訓練における新たな安全性ドキュメント「セーフティケース」の評価ガイドラインを公開した。航空や原子力産業の安全基準をモデルとし、モデルのアライメント（調整）、サンドボックスによる格納、リアルタイム監視の3点を軸とした技術的セーフガードを定めている。
ガイドラインには、モデルの不正行為を検出する自動評価や環境ハックの防止策に加え、予期せぬ挙動が発生した際に即座に実験を停止する運用体制の構築が盛り込まれた。役員レベルによる拒否権付きの承認プロセスや外部監査の導入を通じ、ガバナンス体制の透明性を高める狙いとされる。
さらに意図しない不整合事案が発生した際の原因究明と情報公開の手順も明記された。同社は一連のフレームワークを自社の開発プロセスへ順次導入し、業界全体における大規模AIモデルの安全な開発基準の確立に貢献していく構想と報じられている。
最新のニュース
%20(1).webp)
トランスコスモス韓国新拠点開設
26/6/24 9:00
トランスコスモス（東京都豊島区）は、韓国ソウル市の新興ビジネスエリア・マゴクに、新たなオペレーション拠点「CXスクエア マゴク」を開設したと発表した。
%20(1).webp)
AI NativeがAI開発力診断公開
26/6/24 9:00
AI Native（東京都渋谷区）は、エンジニアやプロジェクトマネージャー向けに、AI時代の開発スキルを9軸で可視化する無料診断ツール「AI開発力スキル診断」を公開したと発表した。
%20(1).webp)
デザインLがスマホ係提供開始
26/6/24 9:00
合同会社デザインL（東京都豊島区）は、シニア世代のスマートフォンに関する相談へAIがLINE上で対応する新サービス「スマホ係」の提供を開始したと発表した。
Copyright © 2024 Generatived - All right Reserved.
ニュース
フォローをお願いします
言語
Generatived は、Generative AIに特化した情報やトレンドをお届けするサービスです。大きく変わりゆく世界の情報を全力でお届けします。
Generatived は、Generative AIに特化した情報やトレンドをお届けするサービスです。大きく変わりゆく世界の情報を全力でお届けします。
フォローをお願いします
言語
最新のニュース
トランスコスモス韓国新拠点開設
26/6/24 9:00
トランスコスモス（東京都豊島区）は、韓国ソウル市の新興ビジネスエリア・マゴクに、新たなオペレーション拠点「CXスクエア マゴク」を開設したと発表した。
AI NativeがAI開発力診断公開
26/6/24 9:00
AI Native（東京都渋谷区）は、エンジニアやプロジェクトマネージャー向けに、AI時代の開発スキルを9軸で可視化する無料診断ツール「AI開発力スキル診断」を公開したと発表した。
デザインLがスマホ係提供開始
26/6/24 9:00
合同会社デザインL（東京都豊島区）は、シニア世代のスマートフォンに関する相談へAIがLINE上で対応する新サービス「スマホ係」の提供を開始したと発表した。