Generatived（Beta）｜生成AIの最新ニュースとトレンドを提供

AIシステムはWebベースのタスクを実行することでユーザーエクスペリエンスを向上させていますが、この利便性は潜在的なセキュリティリスクを伴います。ChatGPT開発者による最近のアップデートでは、URLベースのデータ窃盗攻撃への対策が強調されています。これらの攻撃は、URLを悪用し、AIモデルを悪意のあるリンクにアクセスさせることで機密情報を抽出します。開発者は、安全なURLと潜在的に有害なURLを区別する安全策を実装することで、この問題に対処しています。

開発者は、リダイレクトの可能性や網羅的な許可リストを維持することの非実用性から、AIエージェントを信頼できるウェブサイトに制限するだけでは不十分であることを認識しました。その代わりに、ユーザー操作とは無関係に、URLが既に公開されている場合にのみ自動URLフェッチを許可する戦略を採用しました。これは、ユーザーの個人データにアクセスすることなく公開URLをカタログ化する独立したWebインデックスとURLを相互参照することで実現されます。

ChatGPTは、独立したインデックスによって公開URLとして検証されていないURLに遭遇した場合、そのリンクを自動的に信頼しません。ユーザーには警告が表示される場合があり、これによりユーザーは情報に基づいた判断を下した上で操作を進めることができます。このアプローチは、URLを介した個人データの不注意な漏洩を防ぐことを目的としていますが、同時に多層防御戦略の一環であることも認識しています。開発者は、オンライン脅威の進化と、AIとのインタラクションにおけるユーザーの信頼と安全性の維持の重要性を認識し、これらの対策を継続的に改良しています。