Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo
.webp)
Nhóm nghiên cứu NVIDIA công bố SteerLM để tùy chỉnh LLM
Generatived
18:42 27/10/23
NVIDIA gần đây đã xuất bản một bài viết về việc nâng cao LLM bao gồm tinh chỉnh có giám sát (SFT) trong các cuộc trình diễn của con người. Các nhóm nghiên cứu của NVIDIA đã đạt được tiến bộ đáng kể trong lĩnh vực mô hình ngôn ngữ quy mô lớn (LLM) với sự phát triển của SteerLM, một công nghệ mới giúp đơn giản hóa việc tùy chỉnh LLM. Bất chấp những tiến bộ ấn tượng trong việc tạo ngôn ngữ tự nhiên với LLM như GPT-3 và Megatron-Turing, những mô hình này thường gặp khó khăn trong việc cung cấp các phản hồi có sắc thái phù hợp với sở thích của người dùng.
Các phương pháp hiện tại để nâng cao LLM bao gồm tinh chỉnh có giám sát (SFT) trên các cuộc trình diễn của con người, sau đó là học tăng cường từ phản hồi của con người (RLHF). Mặc dù RLHF có thể cải thiện hiệu suất nhưng nó gặp phải những thách thức như độ phức tạp trong đào tạo và khả năng kiểm soát người dùng hạn chế.
SteerLM, một phần của NVIDIA NeMo, giải quyết những vấn đề này bằng cách cho phép điều khiển linh hoạt các kết quả đầu ra của mô hình dựa trên các thuộc tính được chỉ định. Công nghệ tiên tiến này đơn giản hóa quá trình tùy chỉnh và giúp người dùng dễ tiếp cận hơn.
LLM được đào tạo trước về kho văn bản phong phú và có trình độ ngôn ngữ sâu rộng cũng như kiến thức thế giới. Chúng đã được áp dụng thành công cho nhiều tác vụ xử lý ngôn ngữ tự nhiên, bao gồm dịch thuật, trả lời câu hỏi và tạo văn bản. Tuy nhiên, nó thường không tuân theo hướng dẫn do người dùng cung cấp và thay vào đó tạo ra văn bản chung chung hoặc vô nghĩa. Sự phát triển của SteerLM thể hiện một bước tiến lớn trong việc giải quyết những vấn đề này. nước xốt:
Chia sẻ bài viết này:
Tin tức mới nhất
%20(1).webp)
NVIDIA mở rộng khả năng dự đoán phức hợp protein bằng GPU.
9:00 13/4/26
NVIDIA (California) đã báo cáo những tiến bộ trong dự đoán phức hợp protein quy mô lớn, mở rộng tập dữ liệu cấu trúc vượt ra ngoài các mô hình đơn phân.
%20(1).webp)
NVIDIA cho phép lập lịch Slurm trên các cụm Kubernetes.
9:00 13/4/26
NVIDIA (California) đã mô tả một phương pháp để chạy Slurm trên Kubernetes bằng cách sử dụng Slinky slurm-operator.
%20(1).webp)
Microsoft phác thảo mô hình hoạt động an ninh mạng SOC dựa trên tác nhân
9:00 13/4/26
Microsoft (Washington) đã phác thảo mô hình “ SOC chủ động”, chuyển hoạt động bảo mật từ phản ứng thụ động sang dự đoán hành vi của kẻ tấn công và hạn chế các con đường tấn công.
%20(1).webp)
Copyright © 2024 Generatived - All right Reserved.
Chia sẻ bài viết này:
Chia sẻ bài viết này:
Danh mục
Tin tức
AI và luật/hệ thống/kinh tế/xã hội
Hãy theo dõi chúng tôi
Ngôn ngữ
Generatived là dịch vụ cung cấp thông tin và xu hướng chuyên về Generative AI. Chúng tôi sẽ cố gắng hết sức để cung cấp thông tin về thế giới đang thay đổi nhanh chóng.
Generatived là dịch vụ cung cấp thông tin và xu hướng chuyên về Generative AI. Chúng tôi sẽ cố gắng hết sức để cung cấp th ông tin về thế giới đang thay đổi nhanh chóng.
Hãy theo dõi chúng tôi
Ngôn ngữ
Tin tức mới nhất
NVIDIA mở rộng khả năng dự đoán phức hợp protein bằng GPU.
9:00 13/4/26
NVIDIA (California) đã báo cáo những tiến bộ trong dự đoán phức hợp protein quy mô lớn, mở rộng tập dữ liệu cấu trúc vượt ra ngoài các mô hình đơn phân.
NVIDIA cho phép lập lịch Slurm trên các cụm Kubernetes.
9:00 13/4/26
NVIDIA (California) đã mô tả một phương pháp để chạy Slurm trên Kubernetes bằng cách sử dụng Slinky slurm-operator.
Microsoft phác thảo mô hình hoạt động an ninh mạng SOC dựa trên tác nhân
9:00 13/4/26
Microsoft (Washington) đã phác thảo mô hình “ SOC chủ động”, chuyển hoạt động bảo mật từ phản ứng thụ động sang dự đoán hành vi của kẻ tấn công và hạn chế các con đường tấn công.