Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

Việc một công ty AI hàng đầu mua lại Promptfoo sẽ tăng cường các tính năng bảo mật của nền tảng OpenAI Frontier. Công nghệ của Promptfoo, chuyên về việc xác định và giảm thiểu các lỗ hổng trong hệ thống AI trong giai đoạn phát triển, sẽ được tích hợp vào nền tảng để củng cố sự an toàn và compliance của các chuyên gia AI trong môi trường doanh nghiệp.

Với việc tích hợp các công cụ của Promptfoo, vốn đã được nhiều công ty trong danh sách Fortune 500 tin dùng, nền tảng OpenAI Frontier sẽ cung cấp khả năng kiểm thử bảo mật tự động và tấn công giả lập (red-teaming). Điều này sẽ cho phép các doanh nghiệp chủ động giải quyết các rủi ro tiềm ẩn như tấn công chèn mã độc và rò rỉ dữ liệu, đảm bảo các tác nhân AI hoạt động trong khuôn khổ chính sách và không bị lạm dụng.

Ban lãnh đạo của Promptfoo, Ian Webster và Michael D'Angelo, sẽ hợp tác với công ty mua lại để tiếp tục phát triển cả dự án mã nguồn mở và các tính năng cấp doanh nghiệp trong Frontier. Sự hợp tác này nhằm mục đích tích hợp các quy trình bảo mật và đánh giá vào quy trình phát triển, cho phép phát hiện và giải quyết sớm hơn các rủi ro từ phần mềm độc hại.

Cuối cùng, thương vụ mua lại này hứa hẹn sẽ tăng cường khả năng giám sát và trách nhiệm giải trình cho các tổ chức sử dụng cộng tác viên AI. Nền tảng OpenAI Frontier giờ đây sẽ bao gồm các tính năng báo cáo và truy xuất nguồn gốc tích hợp, hỗ trợ các doanh nghiệp trong việc ghi lại quy trình thử nghiệm, theo dõi các thay đổi và đáp ứng nhu cầu ngày càng tăng về quản trị, rủi ro và compliance trong lĩnh vực AI.