Generatived（Beta）｜生成AIの最新ニュースとトレンドを提供

マイクロソフトは、リモート言語モデルを標的とした新たなサイバー脅威を特定しました。この脅威により、攻撃者は暗号化されたネットワークトラフィックから会話のトピックを推測できる可能性があります。この脆弱性は、トランスポート層セキュリティ（TLS）を使用しているにもかかわらず、AI搭載チャットボットとの通信の機密性に関する懸念を引き起こしています。

このテクノロジー大手は、この問題に対処するため、様々なベンダーと連携し、言語モデルフレームワークの安全性を確保するなど、積極的な対策を講じてきました。これは、プライバシーが最優先される医療や法律相談といった機密性の高い分野で、AIチャットボットの普及が進む中での取り組みです。

この攻撃は、言語モデルの応答のストリーミング特性を悪用しており、パケットサイズとタイミングによって議論の主題が明らかになる可能性がある。マイクロソフトの調査によると、トラフィックが暗号化されている場合でも、微妙な手がかりから攻撃者が議論されている特定のトピックを特定できる可能性があり、抑圧的な政権による監視下にあるユーザーにとってリスクとなる可能性がある。

この脅威に対抗するため、Microsoftをはじめとする業界関係者は対策を講じてきました。特にMicrosoft Azureは、このような攻撃の効果を大幅に低減する難読化技術を導入し、ユーザーとAIの会話のプライバシーを確​​保しています。この共同の取り組みは、AI業界がユーザーの信頼とプライバシーの維持に尽力していることを反映しています。