Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo
NVIDIA AI tạo ra mô hình năng lượng cho thế hệ hạt nhân GPU
Generatived
13:30 13/2/25
Để giải quyết thách thức tạo ra các hạt nhân chú ý GPU mà không cần lập trình rõ ràng, các kỹ sư NVIDIA đã tiến hành thử nghiệm với mô hình AI DeepSeek-R1 nguồn mở. Bằng cách tận dụng sức mạnh tính toán bổ sung trong giai đoạn suy luận, mô hình đã có thể tạo ra các hạt nhân, trong một số trường hợp, vượt trội hơn các hạt nhân do các kỹ sư giàu kinh nghiệm tạo ra. Phương pháp này, được gọi là mở rộng thời gian thử nghiệm, cải thiện hiệu suất AI bằng cách xem xét nhiều kết quả trước khi chọn kết quả hiệu quả nhất.
Khái niệm chú ý đã đóng vai trò quan trọng trong sự phát triển của các mô hình ngôn ngữ quy mô lớn (LLM), cho phép AI tập trung vào các phân đoạn dữ liệu có liên quan để nâng cao dự đoán và khám phá các mẫu ẩn. Tuy nhiên, độ phức tạp của các hoạt động chú ý tăng theo độ dài của chuỗi đầu vào, đòi hỏi các hạt nhân GPU được tối ưu hóa để đạt hiệu quả và tránh các vấn đề về thời gian chạy. Các kỹ sư thường kết hợp các biến thể chú ý khác nhau để giải quyết các tác vụ cụ thể, làm phức tạp thêm việc tạo ra các hạt nhân được tối ưu hóa này.
Để giải quyết những phức tạp này, các kỹ sư NVIDIA đã thiết kế một quy trình làm việc kết hợp mô hình DeepSeek-R1 với một công cụ xác thực chạy trên GPU NVIDIA H100. Được khởi tạo bằng lời nhắc thủ công, hệ thống vòng kín này tinh chỉnh mã GPU được tạo theo từng bước. Quá trình kéo dài 15 phút đã tạo ra các hạt nhân chính xác về mặt số cho tất cả các vấn đề Cấp độ 1 và 96% các vấn đề Cấp độ 2, theo chuẩn KernelBench của Đại học Stanford.
Kết quả từ các thí nghiệm của chúng tôi cho thấy việc tận dụng khả năng mở rộng thời gian thử nghiệm có thể cải thiện đáng kể việc tạo ra các hạt nhân GPU được tối ưu hóa. Khả năng tự động tạo ra các hạt nhân chú ý hiệu quả của mô hình DeepSeek-R1 cho thấy tiềm năng của lĩnh vực nghiên cứu mới này. Mặc dù cần nhiều công sức hơn để đạt được kết quả tốt một cách nhất quán trên nhiều vấn đề hơn, nhưng kết quả ban đầu rất hứa hẹn. Các bên quan tâm có thể tìm hiểu thêm tại dịch vụ vi mô DeepSeek-R1 NIM.
Chia sẻ bài viết này:
Tin tức mới nhất
%20(1).webp)
NVIDIA mở rộng khả năng dự đoán phức hợp protein bằng GPU.
9:00 13/4/26
NVIDIA (California) đã báo cáo những tiến bộ trong dự đoán phức hợp protein quy mô lớn, mở rộng tập dữ liệu cấu trúc vượt ra ngoài các mô hình đơn phân.
%20(1).webp)
NVIDIA cho phép lập lịch Slurm trên các cụm Kubernetes.
9:00 13/4/26
NVIDIA (California) đã mô tả một phương pháp để chạy Slurm trên Kubernetes bằng cách sử dụng Slinky slurm-operator.
%20(1).webp)
Microsoft phác thảo mô hình hoạt động an ninh mạng SOC dựa trên tác nhân
9:00 13/4/26
Microsoft (Washington) đã phác thảo mô hình “ SOC chủ động”, chuyển hoạt động bảo mật từ phản ứng thụ động sang dự đoán hành vi của kẻ tấn công và hạn chế các con đường tấn công.
%20(1).webp)
Copyright © 2024 Generatived - All right Reserved.
Chia sẻ bài viết này:
Chia sẻ bài viết này:
Danh mục
Tin tức
AI và luật/hệ thống/kinh tế/xã hội
Hãy theo dõi chúng tôi
Ngôn ngữ
Generatived là dịch vụ cung cấp thông tin và xu hướng chuyên về Generative AI. Chúng tôi sẽ cố gắng hết sức để cung cấp thông tin về thế giới đang thay đổi nhanh chóng.
Generatived là dịch vụ cung cấp thông tin và xu hướng chuyên về Generative AI. Chúng tôi sẽ cố gắng hết sức để cung cấp th ông tin về thế giới đang thay đổi nhanh chóng.
Hãy theo dõi chúng tôi
Ngôn ngữ
Tin tức mới nhất
NVIDIA mở rộng khả năng dự đoán phức hợp protein bằng GPU.
9:00 13/4/26
NVIDIA (California) đã báo cáo những tiến bộ trong dự đoán phức hợp protein quy mô lớn, mở rộng tập dữ liệu cấu trúc vượt ra ngoài các mô hình đơn phân.
NVIDIA cho phép lập lịch Slurm trên các cụm Kubernetes.
9:00 13/4/26
NVIDIA (California) đã mô tả một phương pháp để chạy Slurm trên Kubernetes bằng cách sử dụng Slinky slurm-operator.
Microsoft phác thảo mô hình hoạt động an ninh mạng SOC dựa trên tác nhân
9:00 13/4/26
Microsoft (Washington) đã phác thảo mô hình “ SOC chủ động”, chuyển hoạt động bảo mật từ phản ứng thụ động sang dự đoán hành vi của kẻ tấn công và hạn chế các con đường tấn công.