Generatived（Beta）｜生成AIの最新ニュースとトレンドを提供
OpenAIがAI安全基準公開
Generatived
26/10/1 7:00
OpenAI（米国サンフランシスコ）は、最先端の強化学習モデル訓練における新たな安全性ドキュメント「セーフティケース」の評価ガイドラインを公開した。航空や原子力産業の安全基準をモデルとし、モデルのアライメント（調整）、サンドボックスによる格納、リアルタイム監視の3点を軸とした技術的セーフガードを定めている。
ガイドラインには、モデルの不正行為を検出する自動評価や環境ハックの防止策に加え、予期せぬ挙動が発生した際に即座に実験を停止する運用体制の構築が盛り込まれた。役員レベルによる拒否権付きの承認プロセスや外部監査の導入を通じ、ガバナンス体制の透明性を高める狙いとされる。
さらに意図しない不整合事案が発生した際の原因究明と情報公開の手順も明記された。同社は一連のフレームワークを自社の開発プロセスへ順次導入し、業界全体における大規模AIモデルの安全な開発基準の確立に貢献していく構想と報じられている。
最新のニュース
AlumnoteがAI人材育成企画開催
26/7/1 9:00
Alumnote（東京都千代田区）は、DeNAと共同で、学生向けAIプロダクト開発プログラム「AI Builders Camp」を2026年夏から秋にかけて開催すると発表した。
freeeがAI研修支援機能提供開始
26/7/1 9:00
freee（東京都品川区）は、AIが研修カリキュラムの設計を支援する「AI研修アシスタント機能」をfreee Eラーニング向けに提供開始したと発表した。
KnowBe4がAI教材生成機能提供
26/7/1 9:00
KnowBe4（東京都港区）は、Security Awareness Training（SAT）の新機能として、生成AIを活用して自社専用のセキュリティ教育コンテンツを作成できる「コンテンツ生成エージェント」の日本語版を提供開始したと発表した。
%20(1).webp)
Copyright © 2024 Generatived - All right Reserved.
ニュース
フォローをお願いします
言語
Generatived は、Generative AIに特化した情報やトレンドをお届けするサービスです。大きく変わりゆく世界の情報を全力でお届けします。
Generatived は、Generative AIに特化した情報やトレンドをお届けするサービスです。大きく変わりゆく世界の情報を全力でお届けします。
フォローをお願いします
言語
最新のニュース
AlumnoteがAI人材育成企画開催
26/7/1 9:00
Alumnote（東京都千代田区）は、DeNAと共同で、学生向けAIプロダクト開発プログラム「AI Builders Camp」を2026年夏から秋にかけて開催すると発表した。
freeeがAI研修支援機能提供開始
26/7/1 9:00
freee（東京都品川区）は、AIが研修カリキュラムの設計を支援する「AI研修アシスタント機能」をfreee Eラーニング向けに提供開始したと発表した。
KnowBe4がAI教材生成機能提供
26/7/1 9:00
KnowBe4（東京都港区）は、Security Awareness Training（SAT）の新機能として、生成AIを活用して自社専用のセキュリティ教育コンテンツを作成できる「コンテンツ生成エージェント」の日本語版を提供開始したと発表した。