top of page

Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

logo.png

NVIDIA giới thiệu tính năng chia sẻ bộ nhớ tràn trong CUDA 13.0

Generatived

9:00 29/8/25

NVIDIA đã giới thiệu một tính năng tối ưu hóa trong CUDA Toolkit 13.0, cho phép nhân CUDA tràn các thanh ghi bộ nhớ dùng chung. Tính năng này nhằm mục đích cải thiện hiệu suất bằng cách giảm latency tràn và áp lực bộ đệm L2 cho các nhân sử dụng nhiều thanh ghi. Tính năng này khả dụng trên tất cả các nền tảng khi sử dụng chế độ biên dịch toàn bộ chương trình PTXAS, và các nhà phát triển có thể lựa chọn bắt đầu từ CUDA 13.0.

Tối ưu hóa này hoạt động bằng cách ưu tiên tràn các thanh ghi có chi phí cao vào bộ nhớ dùng chung. Nếu không có đủ bộ nhớ dùng chung, các tràn sẽ được đưa trở lại bộ nhớ cục bộ. Phương pháp này lưu trữ các giá trị tràn trong bộ nhớ trên chip có độ trễ thấp khi có thể. Tính năng này không được bật theo mặc định; các nhà phát triển phải bật nó bằng cách sử dụng pragma lắp ráp nội tuyến enable_smem_spilling trong định nghĩa kernel của họ.

Theo truyền thống, tràn thanh ghi được xử lý bằng cách đặt các thanh ghi vào bộ nhớ cục bộ ngoài chip trong bộ nhớ toàn cục của thiết bị. Điều này dẫn đến việc xóa dòng bộ nhớ đệm, có thể ảnh hưởng tiêu cực đến hiệu suất, đặc biệt là ở các vùng chứa nhiều thanh ghi. Với tính năng mới này, trình biên dịch sẽ cố gắng sử dụng bộ nhớ dùng chung cho tràn thanh ghi, giảm đáng kể latency truy cập và cải thiện hiệu suất.

Các nhà phát triển muốn tận dụng tính năng này phải sử dụng CUDA 13.0 trở lên và có thể kích hoạt bằng cách thêm một pragma PTX cụ thể thông qua hợp ngữ nội tuyến trong mã của họ. Tuy nhiên, có những hạn chế cần cân nhắc, chẳng hạn như tránh sử dụng tính năng này trong các kernel sử dụng bộ nhớ chia sẻ được cấp phát động hoặc phân bổ lại các thanh ghi động giữa các warp. Ngoài ra, để đảm bảo hành vi có thể dự đoán được và cải thiện hiệu suất, chúng tôi khuyên bạn chỉ nên sử dụng tối ưu hóa này khi ranh giới khởi chạy được xác định rõ ràng.

Chia sẻ bài viết này:

Tin tức mới nhất
コロプラが黒猫のウィズ新章

コロプラが黒猫のウィズ新章

7:00 30/9/26

コロプラ(東京都港区)は、スマホ向けゲーム『クイズRPG 魔法使いと黒猫のウィズ』において、新イベント「オボロ・ダスト2 烈谺×悠翔×火と吼えよ」を開始したと発表した。

アイスマイリーが製造AI開催

アイスマイリーが製造AI開催

7:00 30/9/26

アイスマイリー(東京都渋谷区)は、2026年10月23日にオンラインイベント「製造業AIサミット2026 秋」を開催する。

アスマークが特別ウェビナー開催

アスマークが特別ウェビナー開催

7:00 30/9/26

アスマーク(東京都渋谷区)は、10月18日の「統計の日」に合わせてマーケティングリサーチおよびHR分野に関する特別ウェビナーを開催する。

LINEヤフーがPR実績公開

LINEヤフーがPR実績公開

7:00 30/9/26

LINEヤフー(東京都千代田区)は、プレスリリース配信サービス「ニュースPR by LINEヤフー」の配信実績と利用傾向を公表した。

Copyright © 2024 Generatived - All right Reserved.

Chia sẻ bài viết này:

Chia sẻ bài viết này:

Generatived AI Logo

Generatived là dịch vụ cung cấp thông tin và xu hướng chuyên về Generative AI. Chúng tôi sẽ cố gắng hết sức để cung cấp thông tin về thế giới đang thay đổi nhanh chóng.

  • Facebook
  • X

Hãy theo dõi chúng tôi

Ngôn ngữ

Tin tức mới nhất
コロプラが黒猫のウィズ新章

コロプラが黒猫のウィズ新章

7:00 30/9/26

コロプラ(東京都港区)は、スマホ向けゲーム『クイズRPG 魔法使いと黒猫のウィズ』において、新イベント「オボロ・ダスト2 烈谺×悠翔×火と吼えよ」を開始したと発表した。

アイスマイリーが製造AI開催

アイスマイリーが製造AI開催

7:00 30/9/26

アイスマイリー(東京都渋谷区)は、2026年10月23日にオンラインイベント「製造業AIサミット2026 秋」を開催する。

アスマークが特別ウェビナー開催

アスマークが特別ウェビナー開催

7:00 30/9/26

アスマーク(東京都渋谷区)は、10月18日の「統計の日」に合わせてマーケティングリサーチおよびHR分野に関する特別ウェビナーを開催する。

LINEヤフーがPR実績公開

LINEヤフーがPR実績公開

7:00 30/9/26

LINEヤフー(東京都千代田区)は、プレスリリース配信サービス「ニュースPR by LINEヤフー」の配信実績と利用傾向を公表した。

bottom of page