Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

OpenAI vừa công bố các bản cập nhật an toàn mới cho ChatGPT, được thiết kế để nhận diện tốt hơn ý định gây hại xuất hiện dần dần trong các cuộc hội thoại và phản hồi thận trọng hơn trong các tình huống rủi ro cao.

Công ty cho biết hệ thống hiện có thể xác định các dấu hiệu cảnh báo tinh tế liên quan đến tự tử, tự gây thương tích và gây hại cho người khác bằng cách sử dụng suy luận ngữ cảnh trong cả các cuộc hội thoại đơn lẻ và nhiều cuộc hội thoại.

OpenAI đã giới thiệu “tóm tắt an toàn”, các ghi chú ngắn gọn dựa trên ngữ cảnh liên quan đến an toàn trước đó để giúp mô hình phản hồi cẩn thận hơn thông qua việc giảm leo thang, từ chối và hướng dẫn an toàn hơn.

Theo các đánh giá nội bộ, hiệu suất phản hồi an toàn đã được cải thiện đáng kể trong các tình huống khó khăn, trong khi các cuộc hội thoại thông thường nhìn chung không bị ảnh hưởng bởi các cơ chế an toàn bổ sung.