top of page
Generatif (Beta) |. Memberikan berita dan tren terkini dalam AI generatif
logo.png

Model DeepSeek V4 Memungkinkan AI Jutaan Token

Generatived

27/4/26, 09.00

DeepSeek telah memperkenalkan model unggulan generasi keempatnya, DeepSeek-V4-Pro dan DeepSeek-V4-Flash, yang keduanya mendukung jendela konteks hingga 1 juta token. Rilis ini menargetkan kasus penggunaan inferensi konteks panjang tingkat lanjut seperti pengkodean, analisis dokumen, pengambilan, dan alur kerja AI berbasis agen.

DeepSeek-V4-Pro memiliki total 1,6 triliun parameter dengan 49 miliar parameter aktif, sedangkan V4-Flash adalah model yang lebih kecil dengan 284 miliar parameter yang dioptimalkan untuk kecepatan dan efisiensi. Kedua model mendukung hingga 384 ribu output token, memungkinkan penalaran multi-langkah yang kompleks dan pembuatan bentuk panjang.

Secara arsitektur, keluarga V4 memperkenalkan mekanisme perhatian hibrida yang secara signifikan mengurangi beban komputasi dan penggunaan memori. Dengan menggabungkan teknik perhatian terkompresi dan jarang, model-model tersebut mencapai pengurangan hingga 90% dalam memori cache KV dan peningkatan efisiensi inferensi dibandingkan dengan versi sebelumnya.

Pengujian performa pada sistem NVIDIA Blackwell menunjukkan throughput yang kuat dan latency rendah, mendukung penerapan skala perusahaan. Model-model ini diposisikan untuk mempercepat pergeseran menuju agen AI multi-langkah konteks panjang dan sistem cerdas skala besar.

Bagikan artikel ini:

Tin tức mới nhất
NVIDIAがAI評価�指標発表

NVIDIAがAI評価指標発表

24/9/26, 07.00

NVIDIA(米国カリフォルニア州)は、自律型AIエージェントの性能を測定する評価フレームワークの分析結果を公表した。

NVIDIAがCT解析基盤発表

NVIDIAがCT解析基盤発表

24/9/26, 07.00

NVIDIA(米国カリフォルニア州)は、3D CT検査の画像解析に特化したAIモデル『NV-Reason-CT』を発表した。

MSがFoundry機能拡充

MSがFoundry機能拡充

24/9/26, 07.00

Microsoft(米国ワシントン州)は、AIエージェント構築プラットフォーム『Microsoft Foundry』の機能強化を発表した。

NVIDIAが複数GPU推論機能を発表

NVIDIAが複数GPU推論機能を発表

23/9/26, 07.00

NVIDIA(米国カリフォルニア州)は、生成AIの推論処理を複数のGPUに分散させて高速化する新機能「TensorRTマルチデバイス推論」およびその基盤となる「Dynamo-Triton」の最新版を公表した。

Copyright © 2024 Generatived - All right Reserved.

Bagikan artikel ini:

Bagikan artikel ini:

Generatived

Hãy theo dõi chúng tôi

  • Facebook
  • X

Bahasa

Generatived là dịch vụ cung cấp thông tin và xu hướng chuyên về Generative AI. Chúng tôi sẽ cố gắng hết sức để cung cấp thông tin về thế giới đang thay đổi nhanh chóng.

Generatived AI Logo

Generatived adalah layanan yang memberikan informasi dan tren khusus dalam AI Generatif. Kami akan melakukan yang terbaik untuk menyampaikan informasi tentang dunia yang berubah dengan cepat.

  • Facebook
  • X

Ikuti kami

Bahasa

Berita terkini
NVIDIAがAI評価指標発表

NVIDIAがAI評価指標発表

24/9/26, 07.00

NVIDIA(米国カリフォルニア州)は、自律型AIエージェントの性能を測定する評価フレームワークの分析結果を公表した。

NVIDIAがCT解析基盤発表

NVIDIAがCT解析基盤発表

24/9/26, 07.00

NVIDIA(米国カリフォルニア州)は、3D CT検査の画像解析に特化したAIモデル『NV-Reason-CT』を発表した。

MSがFoundry機能拡充

MSがFoundry機能拡充

24/9/26, 07.00

Microsoft(米国ワシントン州)は、AIエージェント構築プラットフォーム『Microsoft Foundry』の機能強化を発表した。

NVIDIAが複数GPU推論機能を発表

NVIDIAが複数GPU推論機能を発表

23/9/26, 07.00

NVIDIA(米国カリフォルニア州)は、生成AIの推論処理を複数のGPUに分散させて高速化する新機能「TensorRTマルチデバイス推論」およびその基盤となる「Dynamo-Triton」の最新版を公表した。

bottom of page