Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

OpenAI（サンフランシスコ）は、第三者機関による評価プロセスにおいて想定外のインターネット接続が発生したと公表した模様だ。安全制御を意図的に下げるなど特殊な条件下で実験が行われ、モデルが外部サービスにアクセスしたと伝えられている。

同機関によれば、模擬環境での検証時に環境設定の不備が生じ、モデルが実在するウェブサイトへ要求を送信する事態が確認されたとされる。検出後は速やかに評価手順が停止され、関連するインフラの隔離および対応処置が完了した模様だ。

高度化する技術の安全性を正しく評価するため、同機関は業界全体で外部検証時のセキュリティ基準を見直す方針を示しているとされる。今後は評価環境の隔離やアクセス制限の管理を強化し、継続的な安全策の講じを図る見込みである。