Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

OpenAI（米カリフォルニア州）は、ChatGPTにおける安全対策機能を強化したと発表した。会話内や複数会話にまたがる危険兆候を把握し、自傷行為や他者危害に関連する高リスク状況へ慎重に対応できるよう改善したという。

同社によると、新機能では過去の会話文脈を基に「safety summaries」を生成し、潜在的な危険意図をより正確に識別する仕組みを導入した。危険兆候が検出された場合、詳細情報提供を拒否したり、安全な代替案へ誘導したりする対応を強化したとしている。

この機能開発には、法心理学や自殺防止分野の専門家を含む精神医療関係者が協力した。危険文脈の判断基準や保持期間などについて助言を受け、現実的な安全運用を重視した設計を進めたという。

OpenAIは内部評価結果も公表し、自傷・自殺関連ケースで安全応答性能が最大50％向上したと説明した。通常会話への影響は限定的であり、日常的な利用体験を大きく損なわないことも確認したとしている。