OpenAI mengumumkan pembaruan keamanan baru untuk ChatGPT yang dirancang untuk lebih baik mengenali niat berbahaya yang muncul secara bertahap di seluruh percakapan dan merespons lebih hati-hati dalam situasi berisiko tinggi.

Perusahaan tersebut mengatakan sistem sekarang dapat mengidentifikasi tanda-tanda peringatan halus yang terkait dengan bunuh diri, melukai diri sendiri, dan skenario membahayakan orang lain dengan menggunakan penalaran kontekstual di seluruh percakapan tunggal dan ganda.

OpenAI memperkenalkan "ringkasan keamanan," catatan faktual singkat yang dihasilkan dari konteks relevan keamanan sebelumnya untuk membantu model merespons lebih hati-hati melalui de-eskalasi, penolakan, dan panduan yang lebih aman.

Menurut evaluasi internal, kinerja respons aman meningkat secara signifikan dalam skenario yang menantang, sementara percakapan biasa secara umum tetap tidak terpengaruh oleh mekanisme keamanan tambahan.