Generatived（Beta）｜生成AIの最新ニュースとトレンドを提供

データプライバシーとコンプライアンスソリューションの大手プロバイダーであるKiteworksは生成AIで構築された大規模言語モデル （LLM）でのツールの使用時の機密情報の扱いの問題に正面から取り組むプラットフォームを開発した。
今日のデジタル環境では、生成人工知能 （AI） に基づいて構築された大規模言語モデル （LLM） ツールの使用が増加している。生成AIに関連する主なリスクの1つは、知的財産 （IP） および個人を特定できる情報 （PII） の悪用の可能性だ。企業は、自社のIPがAIモデルのトレーニングセットの一部として使用されたり、他のユーザーへの出力に活用されたりすることへの懸念を強めている。同様に、AIツールでのPIIやその他の機密個人データの使用は、データプライバシー法に関する懸念を引き起こす。さらに、悪意のある者は生成AIツールを悪用して攻撃を開発し、脆弱性を悪用する可能性がある。
危険にさらされている機密コンテンツには、トレーニングデータ、ナレッジベース データ、機密チャットボットのやり取りが含まれる。多くの組織は、このリスクが深刻であると考えており、職場内での生成AIアプリケーションの禁止を導入または検討している。そこにKiteworksはより優れたソリューションを提供する。
最近の研究では、機密コンテンツが生成AI LLMツールに漏洩する重大なリスクがあることが示されている。従業員は定期的に企業データをこれらのツールに投稿しており、そのデータの4分の1は機密データであると考えられている。従業員は生成AI LLMツールを1日平均36回使用しており、その中にはデータの貼り付けも含まれることがよくある。これらのツールに入力される機密情報の主なカテゴリーは、内部ビジネスデータ、ソース コード、PII、顧客データが含まれる。
これらのリスクを軽減するには、組織はコンテンツベースのリスクポリシーと管理を導入する必要がある。Kiteworksは、組織が機密情報を追跡および制御し、生成AIのLLMに機密情報がさらされるのを防ぐための包括的なソリューションを提供する。Kiteworksを使用すると、企業はコンテンツ定義のゼロトラストポリシーを実装したり、表示専用のデジタル著作権管理 （DRM） を採用したり、コラボレーションに次世代DRMを活用したりできる。
Kiteworksのプラットフォームを使用することで、企業は機密コンテンツへのアクセスポリシーと制御を定義して、管理できるようになる。例えば透かしを適用すると、特定のコンテンツを生成AI LLMで使用すべきではないことをユーザーに警告できる。さらに、KiteworksのDRMソリューションはコンテンツのローカルコピーを禁止しており、生成AI LLMへの抽出やアップロードを妨げる。