Generatived（Beta）｜生成AIの最新ニュースとトレンドを提供
NVIDIAがTensorRT技術公開
Generatived
26/8/28 7:00
NVIDIA（カリフォルニア州サンタクララ）は、ネイティブC++アプリケーションへオープンAIモデルを組み込むための参考実装コレクション「TensorRT Model Connect」を公開した。本ツールにより、モデル特有の変換処理や実行コードの記述負担を大幅に軽減できるとされる。
オープンモデルのハギングフェイスIDやローカルのチェックポイントから僅か2つのコマンドでC++推論環境を構築可能とのことだ。タスクレベルの簡易操作を行うセマンティックAPIと、細かな調整を可能にするモジュールレベルAPIの双方が提供されていると伝えられている。
独自開発されたGPUカーネルの統合や自動的なコード生成プロセスも取り入れられており、多様なオープンモデルへの迅速な対応が期待されている。同社は開発者が最先端のAI推論エンジンを容易に利用できる環境を整備し、エコシステム全体の技術発展に寄与していく構想と報じられている。
最新のニュース
AI Economy研究第3期始動
26/7/9 9:00
OpenAI（米国カリフォルニア州）は、AIの経済・雇用・教育への影響を研究する「AI Economy Institute」の第3期研究者コホートを発表した。
AP+がChatGPT活用を本格展開
26/7/9 9:00
Australian Payments Plus（オーストラリア）は、決済インフラ運営における業務効率化を目的に「ChatGPT Enterprise」と「Codex」の活用を本格化したと発表した。
NVIDIA、LLM学習の耐障害性強化
26/7/8 9:00
NVIDIAは、大規模言語モデル（LLM）の学習効率を維持する新たな手法「Nonuniform Tensor Parallelism（NTP）」の研究成果を公表した。
Copyright © 2024 Generatived - All right Reserved.
ニュース
フォローをお願いします
言語
Generatived は、Generative AIに特化した情報やトレンドをお届けするサービスです。大きく変わりゆく世界の情報を全力でお届けします。
Generatived は、Generative AIに特化した情報やトレンドをお届けするサービスです。大きく変わりゆく世界の情報を全力でお届けします。
フォローをお願いします
言語
最新のニュース
AI Economy研究第3期始動
26/7/9 9:00
OpenAI（米国カリフォルニア州）は、AIの経済・雇用・教育への影響を研究する「AI Economy Institute」の第3期研究者コホートを発表した。
AP+がChatGPT活用を本格展開
26/7/9 9:00
Australian Payments Plus（オーストラリア）は、決済インフラ運営における業務効率化を目的に「ChatGPT Enterprise」と「Codex」の活用を本格化したと発表した。
NVIDIA、LLM学習の耐障害性強化
26/7/8 9:00
NVIDIAは、大規模言語モデル（LLM）の学習効率を維持する新たな手法「Nonuniform Tensor Parallelism（NTP）」の研究成果を公表した。