Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

CUB, một thư viện mẫu tích hợp trong bộ thư viện NVIDIA CUDA Core Compute Libraries, đã giới thiệu API gọi hàm đơn mới với bản phát hành CUDA 13.1. Bản cập nhật này đơn giản hóa quy trình phát triển bằng cách tự động hóa việc quản lý bộ nhớ, điều mà trước đây các nhà phát triển phải thực hiện thủ công. API hai giai đoạn trước đây yêu cầu các bước riêng biệt để ước tính và phân bổ bộ nhớ, dẫn đến việc trùng lặp mã. API mới giúp đơn giản hóa trải nghiệm lập trình trong khi vẫn duy trì hiệu suất cao.

Thư viện CUB rất cần thiết để chạy các thuật toán GPU tiêu chuẩn như quét, biểu đồ và sắp xếp ở tốc độ tối ưu. Bằng cách cung cấp các hàm cơ bản phía thiết bị, nó cho phép các nhà phát triển tích hợp trực tiếp các thuật toán được tối ưu hóa vào các nhân tùy chỉnh, tạo nên sự khác biệt so với các thư viện như Thrust, vốn cung cấp giao diện cấp cao. Việc chuyển sang API gọi một lần duy nhất loại bỏ sự phức tạp của mô hình hai pha truyền thống, vốn yêu cầu các nhà phát triển phải xác định trước kích thước bộ nhớ cần thiết trước khi chạy thuật toán.

Như đã minh họa trong ví dụ mã đơn giản được cung cấp, API gọi hàm một lần không yêu cầu phân bổ bộ nhớ rõ ràng. Thay đổi này không gây ra bất kỳ tổn thất hiệu năng nào, điều này đã được xác nhận bằng dữ liệu thời gian chạy so sánh. API mới cũng cung cấp đối số "môi trường", tăng cường cấu hình thực thi với các tùy chọn tài nguyên bộ nhớ và luồng thực thi tùy chỉnh. Tính linh hoạt này cho phép các nhà phát triển tùy chỉnh môi trường thực thi để phù hợp với nhu cầu cụ thể của họ mà không làm phức tạp mã của họ.

Bản cập nhật CUB giải quyết vấn đề sử dụng quá nhiều lớp bao bọc (wrapper) trong mã nguồn sản phẩm và nhằm mục đích giảm độ phức tạp của quy trình gọi hàm hai bước. API gọi hàm một lần không chỉ đơn giản hóa việc lập trình mà còn mở rộng chức năng của thư viện bằng cách giới thiệu tài nguyên bộ nhớ và môi trường thực thi có thể tùy chỉnh. Các nhà phát triển được khuyến khích áp dụng tiêu chuẩn mới này để tối ưu hóa quy trình làm việc và tối đa hóa hiệu quả tính toán GPU.