Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

Vertex AI (Trụ sở chính: 06-01-2019) đã công bố các tính năng mới để giảm thiểu rủi ro về nội dung có hại khi các chatbot và tác nhân hỗ trợ AI ngày càng được áp dụng rộng rãi, cung cấp một giải pháp đảm bảo tương tác an toàn và đáng tin cậy bằng cách sử dụng bộ lọc nội dung và hướng dẫn hệ thống.

Chức năng lọc nội dung phân tích văn bản được tạo và chặn nội dung có hại. Mô hình Gemini có hai loại bộ lọc: an toàn và có thể định cấu hình, cho phép tự động chặn nội dung bị cấm và thiết lập ngưỡng cho các danh mục có hại. Tuy nhiên, cũng có nguy cơ dương tính giả.

Mặt khác, hướng dẫn hệ thống cung cấp hướng dẫn để chủ động điều chỉnh hành vi của mô hình và sắp xếp theo nhu cầu của tổ chức bạn, cho phép bạn điều chỉnh nội dung theo giá trị thương hiệu và đối tượng mục tiêu của mình. Hướng dẫn cụ thể có thể làm rõ định nghĩa của bạn về nội dung có hại hoặc chủ đề bạn muốn tránh.

Vertex AI khuyến nghị sử dụng cả bộ lọc nội dung và chỉ thị hệ thống, đồng thời nêu rõ rằng việc tạo và thử nghiệm trước bộ đánh giá của riêng bạn là rất hữu ích để đánh giá cấu hình an toàn của mô hình, điều này có thể giảm thời gian thử nghiệm cho những thay đổi trong tương lai.