Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

NVIDIAがモデル転送高速化技術を発表
Generatived
14:00 29/7/26
NVIDIA(米国カリフォルニア州)は、大規模AIモデルの重みデータをGPUへ高速転送する技術「ModelExpress」を発表した模様である。モデルのパラメータサイズ増大に伴う転送時間やストレージからのデータ読み込み待ち時間を短縮し、自律型エージェントなどの起動を加速させる目的があると伝えられている。
本技術は、稼働中の既存マシンからGPU間通信を介して直接データを移送する構造を採用している。オブジェクトストレージやローカルディスクを経由する従来の読み込み手順を省き、必要に応じてジャストインタイムでキャッシュを活用することで、大幅な時間縮小を実現するとされている。
AI基盤における計算資源の効率化に向けて、同社はデータ転送の最適化を重要視している。既存のフレームワークとの統合を進めることで、多様な環境下におけるワークロードの拡張性と処理速度向上を支援する方針であるとみられている。
Chia sẻ bài viết này:
Tin tức mới nhất
Delighttube Tech ra mắt dịch vụ giám sát nội dung.
14:00 17/8/26
Delighttube đã ra mắt một dịch vụ sử dụng nền tảng để tự động hóa các nhiệm vụ giám sát nội dung theo các hướng dẫn cụ thể.
GembaShift Tech ra mắt tính năng tìm kiếm kiến thức nội bộ.
14:00 17/8/26
GembaShift đã ra mắt dịch vụ truy xuất tài liệu nội bộ sử dụng trí tuệ tự động để xử lý các hồ sơ doanh nghiệp phân tán.


%20(1).webp)