Generatived（Beta）｜生成AIの最新ニュースとトレンドを提供
NVIDIAがTensorRT技術公開
Generatived
26/8/28 7:00
NVIDIA（カリフォルニア州サンタクララ）は、ネイティブC++アプリケーションへオープンAIモデルを組み込むための参考実装コレクション「TensorRT Model Connect」を公開した。本ツールにより、モデル特有の変換処理や実行コードの記述負担を大幅に軽減できるとされる。
オープンモデルのハギングフェイスIDやローカルのチェックポイントから僅か2つのコマンドでC++推論環境を構築可能とのことだ。タスクレベルの簡易操作を行うセマンティックAPIと、細かな調整を可能にするモジュールレベルAPIの双方が提供されていると伝えられている。
独自開発されたGPUカーネルの統合や自動的なコード生成プロセスも取り入れられており、多様なオープンモデルへの迅速な対応が期待されている。同社は開発者が最先端のAI推論エンジンを容易に利用できる環境を整備し、エコシステム全体の技術発展に寄与していく構想と報じられている。
最新のニュース
%20(1).webp)
NVIDIA、AI基盤構築指針を拡充
26/5/1 9:00
NVIDIA（米カリフォルニア州サンタクララ）は、企業向けAI基盤の構築を支援する「NVIDIA Enterprise Reference Architectures（Enterprise RAs）」とAIファクトリー構成の詳細を公開した。
%20(1).webp)
OpenAI、Stargate拡張加速
26/5/1 9:00
OpenAI（米カリフォルニア州サンフランシスコ）は、AIインフラ構想「Stargate」において、2029年までに米国内で10GW規模の計算基盤確保を目指す計画を前倒しで進め、直近90日間で3GW超の新容量を追加したと明らかにした。
%20(1).webp)
Copyright © 2024 Generatived - All right Reserved.
ニュース
フォローをお願いします
言語
Generatived は、Generative AIに特化した情報やトレンドをお届けするサービスです。大きく変わりゆく世界の情報を全力でお届けします。
Generatived は、Generative AIに特化した情報やトレンドをお届けするサービスです。大きく変わりゆく世界の情報を全力でお届けします。
フォローをお願いします
言語
最新のニュース
NVIDIA、AI基盤構築指針を拡充
26/5/1 9:00
NVIDIA（米カリフォルニア州サンタクララ）は、企業向けAI基盤の構築を支援する「NVIDIA Enterprise Reference Architectures（Enterprise RAs）」とAIファクトリー構成の詳細を公開した。
OpenAI、Stargate拡張加速
26/5/1 9:00
OpenAI（米カリフォルニア州サンフランシスコ）は、AIインフラ構想「Stargate」において、2029年までに米国内で10GW規模の計算基盤確保を目指す計画を前倒しで進め、直近90日間で3GW超の新容量を追加したと明らかにした。