Microsoft telah mengidentifikasi ancaman siber baru yang menargetkan model bahasa jarak jauh yang memungkinkan penyerang menyimpulkan topik percakapan dari lalu lintas jaringan terenkripsi. Kerentanan ini menimbulkan kekhawatiran tentang kerahasiaan komunikasi dengan chatbot bertenaga AI, meskipun telah menggunakan Transport Layer Security (TLS).

Raksasa teknologi tersebut telah mengambil langkah proaktif untuk mengatasi masalah ini, termasuk bekerja sama dengan berbagai vendor guna memastikan keamanan kerangka model bahasanya, karena chatbot AI menjadi semakin lazim di bidang-bidang sensitif seperti perawatan kesehatan dan nasihat hukum, di mana privasi adalah yang terpenting.

Serangan ini mengeksploitasi sifat streaming respons model bahasa, di mana ukuran dan waktu paket dapat mengungkapkan subjek diskusi. Penelitian Microsoft menunjukkan bahwa petunjuk halus dapat memungkinkan penyerang untuk mengidentifikasi topik spesifik yang sedang dibahas, bahkan ketika lalu lintasnya dienkripsi, yang berpotensi menimbulkan risiko bagi pengguna yang diawasi oleh rezim represif.

Untuk mengatasi ancaman ini, para pelaku industri, termasuk Microsoft, telah mengambil langkah-langkah. Microsoft Azure, khususnya, telah memperkenalkan teknik obfuscation yang secara signifikan mengurangi efektivitas serangan tersebut dan menjamin privasi percakapan antara pengguna dan AI. Upaya bersama ini mencerminkan komitmen industri AI untuk menjaga kepercayaan dan privasi pengguna.