Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

Elith (Tokyo) thông báo rằng họ là đơn vị duy nhất của Nhật Bản tham gia "Open Safeguard Hackathon" được tổ chức tại San Francisco, Hoa Kỳ. Cuộc thi hackathon này là một sự kiện nhằm xác minh và phát triển các công nghệ an toàn AI, quy tụ các chuyên gia để thảo luận.

Công ty đã tham gia vào Track 2 (Kiểm thử mô hình) và Track 3 (Khả năng giải thích/Phân tích cấp độ token). Sử dụng "gpt-oss-safeguard" của OpenAI, công ty đã tiến hành xác minh và đóng góp vào việc hiểu hành vi của các mô hình an toàn. Kết quả đã được công bố trên Cộng đồng Mô hình ROOST.

Elith đã đánh giá 364 tình huống tấn công để xác định các lỗ hổng trong mô hình. Họ cũng trực quan hóa các token liên quan đến các quyết định an toàn thông qua phân tích trọng số chú ý cấp độ token.

Thông qua sự kiện này, Elith đã chia sẻ tính khả thi và những hạn chế của mô hình an toàn AI của mình trên phạm vi quốc tế, thể hiện ý định đóng góp vào sự phát triển của an toàn AI dựa trên nền tảng công nghệ mở.