Generatived（Beta）｜生成AIの最新ニュースとトレンドを提供
NVIDIAがTensorRT技術公開
Generatived
26/8/28 7:00
NVIDIA（カリフォルニア州サンタクララ）は、ネイティブC++アプリケーションへオープンAIモデルを組み込むための参考実装コレクション「TensorRT Model Connect」を公開した。本ツールにより、モデル特有の変換処理や実行コードの記述負担を大幅に軽減できるとされる。
オープンモデルのハギングフェイスIDやローカルのチェックポイントから僅か2つのコマンドでC++推論環境を構築可能とのことだ。タスクレベルの簡易操作を行うセマンティックAPIと、細かな調整を可能にするモジュールレベルAPIの双方が提供されていると伝えられている。
独自開発されたGPUカーネルの統合や自動的なコード生成プロセスも取り入れられており、多様なオープンモデルへの迅速な対応が期待されている。同社は開発者が最先端のAI推論エンジンを容易に利用できる環境を整備し、エコシステム全体の技術発展に寄与していく構想と報じられている。
最新のニュース
NVIDIAがMLPerfでBlackwellの性能を実証
26/4/7 9:00
NVIDIA（サンタクララ）は、最新のAI推論ベンチマーク「MLPerf Inference v6.0」において、Blackwell Ultra GPUを搭載したシステムが広範なモデルで過去最高のスループットを記録したと発表した。
WHITEBOX中堅企業DX支援開始
26/4/7 9:00
WHITEBOX（東京都豊島区）は、国内中堅企業向けAI搭載DX推進プラットフォーム「WHITEBOX」を4月6日より正式販売開始と発表した。
%20(1).webp)
CoWorker脆弱性診断30万円提供
26/4/7 9:00
CoWorker（東京都新宿区）は、自社AI診断エンジン「Red Agent」を活用した「脆弱性診断サービス」のトライアルキャンペーンを開始したと発表した。
Copyright © 2024 Generatived - All right Reserved.
ニュース
フォローをお願いします
言語
Generatived は、Generative AIに特化した情報やトレンドをお届けするサービスです。大きく変わりゆく世界の情報を全力でお届けします。
Generatived は、Generative AIに特化した情報やトレンドをお届けするサービスです。大きく変わりゆく世界の情報を全力でお届けします。
フォローをお願いします
言語
最新のニュース
NVIDIAがMLPerfでBlackwellの性能を実証
26/4/7 9:00
NVIDIA（サンタクララ）は、最新のAI推論ベンチマーク「MLPerf Inference v6.0」において、Blackwell Ultra GPUを搭載したシステムが広範なモデルで過去最高のスループットを記録したと発表した。
WHITEBOX中堅企業DX支援開始
26/4/7 9:00
WHITEBOX（東京都豊島区）は、国内中堅企業向けAI搭載DX推進プラットフォーム「WHITEBOX」を4月6日より正式販売開始と発表した。
CoWorker脆弱性診断30万円提供
26/4/7 9:00
CoWorker（東京都新宿区）は、自社AI診断エンジン「Red Agent」を活用した「脆弱性診断サービス」のトライアルキャンペーンを開始したと発表した。