Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo
OpenAIがAI安全基準公開
Generatived
7:00 1/10/26
OpenAI（米国サンフランシスコ）は、最先端の強化学習モデル訓練における新たな安全性ドキュメント「セーフティケース」の評価ガイドラインを公開した。航空や原子力産業の安全基準をモデルとし、モデルのアライメント（調整）、サンドボックスによる格納、リアルタイム監視の3点を軸とした技術的セーフガードを定めている。
ガイドラインには、モデルの不正行為を検出する自動評価や環境ハックの防止策に加え、予期せぬ挙動が発生した際に即座に実験を停止する運用体制の構築が盛り込まれた。役員レベルによる拒否権付きの承認プロセスや外部監査の導入を通じ、ガバナンス体制の透明性を高める狙いとされる。
さらに意図しない不整合事案が発生した際の原因究明と情報公開の手順も明記された。同社は一連のフレームワークを自社の開発プロセスへ順次導入し、業界全体における大規模AIモデルの安全な開発基準の確立に貢献していく構想と報じられている。
Chia sẻ bài viết này:
Tin tức mới nhất
%20(1).webp)
Ngân hàng Danske mở rộng hợp tác với AWS trong lĩnh vực ngân hàng ứng dụng trí tuệ nhân tạo.
9:00 2/7/26
Ngân hàng Danske Bank vừa công bố mở rộng hợp tác với Amazon Web Services như một phần của chiến lược 'Forward '28'.
%20(1).webp)
NVIDIA tích hợp BioNeMo với nền tảng khoa học Claude.
9:00 2/7/26
NVIDIA thông báo rằng Bộ công cụ BioNeMo Agent của họ đã được tích hợp với nền tảng AI Claude Science mới ra mắt của Anthropic
%20(1).webp)
Microsoft cung cấp hướng dẫn chi tiết về phòng chống tấn công độc hại bằng công cụ MCP.
9:00 2/7/26
Microsoft đã công bố hướng dẫn bảo mật mô tả một mô hình tấn công ngày càng gia tăng nhắm vào các tác nhân AI thông qua các công cụ Giao thức Ngữ cảnh Mô hình (MCP) bị xâm phạm.
%20(1).webp)
Copyright © 2024 Generatived - All right Reserved.
Chia sẻ bài viết này:
Chia sẻ bài viết này:
Danh mục
Tin tức
AI và luật/hệ thống/kinh tế/xã hội
Hãy theo dõi chúng tôi
Ngôn ngữ
Generatived là dịch vụ cung cấp thông tin và xu hướng chuyên về Generative AI. Chúng tôi sẽ cố gắng hết sức để cung cấp thông tin về thế giới đang thay đổi nhanh chóng.
Generatived là dịch vụ cung cấp thông tin và xu hướng chuyên về Generative AI. Chúng tôi sẽ cố gắng hết sức để cung cấp thông tin về thế gi ới đang thay đổi nhanh chóng.
Hãy theo dõi chúng tôi
Ngôn ngữ
Tin tức mới nhất
Ngân hàng Danske mở rộng hợp tác với AWS trong lĩnh vực ngân hàng ứng dụng trí tuệ nhân tạo.
9:00 2/7/26
Ngân hàng Danske Bank vừa công bố mở rộng hợp tác với Amazon Web Services như một phần của chiến lược 'Forward '28'.
NVIDIA tích hợp BioNeMo với nền tảng khoa học Claude.
9:00 2/7/26
NVIDIA thông báo rằng Bộ công cụ BioNeMo Agent của họ đã được tích hợp với nền tảng AI Claude Science mới ra mắt của Anthropic
Microsoft cung cấp hướng dẫn chi tiết về phòng chống tấn công độc hại bằng công cụ MCP.
9:00 2/7/26
Microsoft đã công bố hướng dẫn bảo mật mô tả một mô hình tấn công ngày càng gia tăng nhắm vào các tác nhân AI thông qua các công cụ Giao thức Ngữ cảnh Mô hình (MCP) bị xâm phạm.