Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

Gemini đã đóng góp vào nhiều nhiệm vụ như một mô hình nền tảng, nhưng có thể cần hướng dẫn cho các nhiệm vụ cụ thể. Bằng cách áp dụng điều chỉnh có giám sát (SFT), hiệu suất của Gemini có thể được cải thiện để phù hợp với các nhiệm vụ và phong cách viết cụ thể. Việc lựa chọn mô hình phù hợp và tạo ra các tập dữ liệu chất lượng cao là rất quan trọng.

Để hợp lý hóa quy trình SFT, các nhà phát triển có thể đánh giá hiệu suất ban đầu của mô hình, chọn số liệu đánh giá phù hợp, sử dụng nhiều tập dữ liệu đánh giá khác nhau, v.v. Nên chọn phiên bản mô hình tốt nhất từ ​​các phiên bản mô hình khác nhau, chẳng hạn như Gemini 1.5 Pro và Gemini 1.5 Flash.

Sự cân bằng giữa chất lượng và số lượng của tập dữ liệu là quan trọng và chúng tôi sử dụng Low-Rank Adaptation (LoRA) của Vertex AI để tinh chỉnh hiệu quả. Việc lựa chọn các mẫu chất lượng cao, loại bỏ trùng lặp và tăng cường dữ liệu là những yếu tố quan trọng khi xem xét tập dữ liệu.

Thêm hướng dẫn vào một tập dữ liệu tinh chỉnh sẽ cải thiện hiệu suất của mô hình. Hướng dẫn hệ thống hoặc hướng dẫn cấp độ phiên bản được sử dụng để cải thiện khả năng thực hiện một tác vụ cụ thể của mô hình. Ngoài ra, sự liên kết của dữ liệu đào tạo và dữ liệu sản xuất ảnh hưởng đến hiệu quả của tinh chỉnh, do đó, việc chọn đúng định dạng dữ liệu là rất cần thiết.