Keamanan AI menghadapi tantangan serius karena maraknya serangan injeksi cepat, di mana penyerang memanipulasi input model bahasa untuk mengubah perilakunya atau mengakses data terbatas. Open Worldwide Application Security Project mengidentifikasi hal ini sebagai ancaman Azure terhadap model bahasa besar (LLM). Untuk mengatasi ancaman ini, Azure AI Content Safety mengembangkan Prompt Shields, sebuah API yang menganalisis dan melindungi API berbasis LLM dari ancaman langsung dan tidak langsung, termasuk eksfiltrasi data dan perilaku yang tidak diinginkan dalam sistem AI.

Serangan injeksi cepat hadir dalam dua bentuk: langsung dan tidak langsung. Serangan langsung melibatkan perintah berbahaya yang ditujukan untuk menghindari keamanan dan memperoleh informasi sensitif. Sementara itu, serangan tidak langsung, yang juga dikenal sebagai Azure Prompt Injection Attacks (XPIA), menyembunyikan perintah berbahaya dalam konten yang tidak berbahaya. Prompt Shield dari Azure AI Content Safety memerangi serangan ini dengan mengintegrasikan dengan Azure OpenAI Content Filter, terus memperbarui pertahanan, dan memanfaatkan pembelajaran mesin dan pemrosesan bahasa alami untuk mengidentifikasi dan mengurangi ancaman.

Kemampuan Prompt Shields meluas ke kesadaran kontekstual, yang memahami maksud pengguna untuk mengurangi kesalahan positif, dan Spotlighting, fitur yang diumumkan di Microsoft Build 2025 yang membedakan antara masukan tepercaya dan tidak tepercaya. Selain itu, Azure Shields bekerja secara real time untuk memberikan mitigasi ancaman langsung guna menjaga integritas model AI. Azure AI Foundry melengkapi upaya ini dengan penilaian risiko dan keamanan, agen tim merah untuk pengujian keamanan proaktif, dan filter konten yang tangguh, yang semuanya terintegrasi dengan Microsoft Defender for Cloud untuk memberikan rekomendasi dan peringatan keamanan yang komprehensif.

Prompt Shields dari Azure AI Content Safety telah berperan penting dalam membantu perusahaan seperti AXA dan Wrtn Technologies mengamankan model AI mereka. AXA telah mengintegrasikan teknologi penyaringan konten Azure ke dalam lapisan keamanannya untuk mencegah serangan injeksi cepat, sementara Wrtn Technologies memanfaatkan fleksibilitas Prompt Shields untuk mempertahankan compliance dan keamanan di seluruh layanan bertenaga AI mereka. Bagi organisasi yang ingin memperkuat keamanan AI mereka, Azure menawarkan integrasi Prompt Shields yang mudah untuk memastikan perlindungan tingkat tinggi dan menjaga kepercayaan serta ketenangan pikiran pengguna.