Generatived(Beta)|生成AIの最新ニュースとトレンドを提供

NVIDIAがTensorRT技術公開
Generatived
26/8/28 7:00
NVIDIA(カリフォルニア州サンタクララ)は、ネイティブC++アプリケーションへオープンAIモデルを組み込むための参考実装コレクション「TensorRT Model Connect」を公開した。本ツールにより、モデル特有の変換処理や実行コードの記述負担を大幅に軽減できるとされる。
オープンモデルのハギングフェイスIDやローカルのチェックポイントから僅か2つのコマンドでC++推論環境を構築可能とのことだ。タスクレベルの簡易操作を行うセマンティックAPIと、細かな調整を可能にするモジュールレベルAPIの双方が提供されていると伝えられている。
独自開発されたGPUカーネルの統合や自動的なコード生成プロセスも取り入れられており、多様なオープンモデルへの迅速な対応が期待されている。同社は開発者が最先端のAI推論エンジンを容易に利用できる環境を整備し、エコシステム全体の技術発展に寄与していく構想と報じられている。
最新のニュース
AItegrity、面接官設定AIシステムを構築
26/7/20 9:00
AItegrity(埼玉県志木市)は、大手住宅メーカーの人事部門向けに、年間約300回に及ぶ採用面接の面接官選定を効率化する「面接設定AIシステム」のプロトタイプを構築した。
Multiverse Computing、5億7,000万ドル調達
26/7/20 9:00
Multiverse Computing(サンセバスチャン)は、シリーズCで5億7,000万ドルを調達し、プレマネー評価額17億ドルで資金調達を実施したと発表した。
NVIDIA、LLM向けGPU最適化設計指針公開
26/7/14 9:00
NVIDIA(米国カリフォルニア州)は、大規模言語モデル(LLM)の性能を最大限引き出すためのGPU最適化設計ガイドを公開したと発表した。
Copyright © 2024 Generatived - All right Reserved.
ニュース
Generatived は、Generative AIに特化した情報やトレンドをお届けするサービスです。大きく変わりゆく世界の情報を全力でお届けします。
最新のニュース
AItegrity、面接官設定AIシステムを構築
26/7/20 9:00
AItegrity(埼玉県志木市)は、大手住宅メーカーの人事部門向けに、年間約300回に及ぶ採用面接の面接官選定を効率化する「面接設定AIシステム」のプロトタイプを構築した。
Multiverse Computing、5億7,000万ドル調達
26/7/20 9:00
Multiverse Computing(サンセバスチャン)は、シリーズCで5億7,000万ドルを調達し、プレマネー評価額17億ドルで資金調達を実施したと発表した。
NVIDIA、LLM向けGPU最適化設計指針公開
26/7/14 9:00
NVIDIA(米国カリフォルニア州)は、大規模言語モデル(LLM)の性能を最大限引き出すためのGPU最適化設計ガイドを公開したと発表した。






