top of page
Generatif (Beta) |. Memberikan berita dan tren terkini dalam AI generatif
logo.png

NVIDIA CUB Memperkenalkan Pembaruan API Panggilan Tunggal yang Simplified

Generatived

23/1/26, 09.00

CUB, sebuah pustaka templat integral dalam NVIDIA CUDA Core Compute Libraries, memperkenalkan API panggilan tunggal baru dengan dirilisnya CUDA 13.1. Pembaruan ini menyederhanakan proses pengembangan dengan mengotomatiskan manajemen memori, yang sebelumnya mengharuskan pengembang untuk melakukannya secara manual. API dua fase sebelumnya memerlukan langkah-langkah terpisah untuk estimasi dan alokasi memori, yang mengakibatkan duplikasi kode. API baru ini menyederhanakan pengalaman pengkodean sambil mempertahankan kinerja tinggi.

Pustaka CUB sangat penting untuk menjalankan algoritma GPU standar seperti pemindaian, histogram, dan pengurutan dengan kecepatan optimal. Dengan menyediakan primitif sisi perangkat, pustaka ini memungkinkan pengembang untuk langsung mengintegrasikan algoritma yang dioptimalkan ke dalam kernel kustom, yang membedakannya dari pustaka seperti Thrust, yang menyediakan antarmuka tingkat tinggi. Perpindahan ke API panggilan tunggal menghilangkan kompleksitas model dua fase tradisional, yang mengharuskan pengembang untuk menentukan ukuran memori yang dibutuhkan sebelum menjalankan algoritma.

Seperti yang ditunjukkan dalam contoh kode sederhana yang diberikan, API panggilan tunggal tidak memerlukan alokasi memori eksplisit. Perubahan ini tidak menimbulkan overhead kinerja apa pun, sebagaimana dikonfirmasi oleh data runtime komparatif. API baru ini juga menyediakan argumen "lingkungan", yang meningkatkan konfigurasi eksekusi dengan opsi sumber daya memori dan aliran eksekusi khusus. Fleksibilitas ini memungkinkan pengembang untuk menyesuaikan lingkungan eksekusi agar sesuai dengan kebutuhan spesifik mereka tanpa mempersulit kode mereka.

Pembaruan CUB mengatasi prevalensi penggunaan wrapper dalam basis kode produksi dan bertujuan untuk mengurangi kompleksitas proses pemanggilan dua langkah. API panggilan tunggal tidak hanya menyederhanakan pengkodean, tetapi juga memperluas fungsionalitas pustaka dengan memperkenalkan sumber daya memori dan lingkungan eksekusi yang dapat disesuaikan. Pengembang didorong untuk mengadopsi standar baru ini untuk menyederhanakan alur kerja mereka dan memaksimalkan efisiensi komputasi GPU.

Bagikan artikel ini:

Tin tức mới nhất
マイクロソフト、Claude Opus 5.5の提供を開始

マイクロソフト、Claude Opus 5.5の提供を開始

24/9/26, 07.00

Microsoft(ワシントン州)は、Anthropicが開発した最新AIモデル「Claude Opus 5.5」を開発者向けプラットフォーム「Microsoft Foundry」上で一般提供開始した。

マイクロソフト、AIエージェント実行基盤を提供

マイクロソフト、AIエージェント実行基盤を提供

24/9/26, 07.00

Microsoft(ワシントン州)は、自律型AIエージェントの安全な実行と統制を両立する新機能「Azure Container Apps Sandboxes」の一般提供を開始した。

マイクロソフト、AI犯罪基盤を妨害

マイクロソフト、AI犯罪基盤を妨害

24/9/26, 07.00

Microsoft(ワシントン州)は、サイバー犯罪プラットフォーム「EvilTokens」のインフラを妨害・無効化したと発表した。

NVIDIAがMoE高速化手法発表

NVIDIAがMoE高速化手法発表

24/9/26, 07.00

NVIDIA(米国カリフォルニア州)は、大規模言語モデルやバイオ基盤モデルに向けたMoE(Mixture-of-Experts)アーキテクチャの学習効率化手法を公開した。

Copyright © 2024 Generatived - All right Reserved.

Bagikan artikel ini:

Bagikan artikel ini:

Generatived

Hãy theo dõi chúng tôi

  • Facebook
  • X

Bahasa

Generatived là dịch vụ cung cấp thông tin và xu hướng chuyên về Generative AI. Chúng tôi sẽ cố gắng hết sức để cung cấp thông tin về thế giới đang thay đổi nhanh chóng.

Generatived AI Logo

Generatived adalah layanan yang memberikan informasi dan tren khusus dalam AI Generatif. Kami akan melakukan yang terbaik untuk menyampaikan informasi tentang dunia yang berubah dengan cepat.

  • Facebook
  • X

Ikuti kami

Bahasa

Berita terkini
マイクロソフト、Claude Opus 5.5の提供を開始

マイクロソフト、Claude Opus 5.5の提供を開始

24/9/26, 07.00

Microsoft(ワシントン州)は、Anthropicが開発した最新AIモデル「Claude Opus 5.5」を開発者向けプラットフォーム「Microsoft Foundry」上で一般提供開始した。

マイクロソフト、AIエージェント実行基盤を提供

マイクロソフト、AIエージェント実行基盤を提供

24/9/26, 07.00

Microsoft(ワシントン州)は、自律型AIエージェントの安全な実行と統制を両立する新機能「Azure Container Apps Sandboxes」の一般提供を開始した。

マイクロソフト、AI犯罪基盤を妨害

マイクロソフト、AI犯罪基盤を妨害

24/9/26, 07.00

Microsoft(ワシントン州)は、サイバー犯罪プラットフォーム「EvilTokens」のインフラを妨害・無効化したと発表した。

NVIDIAがMoE高速化手法発表

NVIDIAがMoE高速化手法発表

24/9/26, 07.00

NVIDIA(米国カリフォルニア州)は、大規模言語モデルやバイオ基盤モデルに向けたMoE(Mixture-of-Experts)アーキテクチャの学習効率化手法を公開した。

bottom of page