Generatived（Beta）｜生成AIの最新ニュースとトレンドを提供
NVIDIAがTensorRT技術公開
Generatived
26/8/28 7:00
NVIDIA（カリフォルニア州サンタクララ）は、ネイティブC++アプリケーションへオープンAIモデルを組み込むための参考実装コレクション「TensorRT Model Connect」を公開した。本ツールにより、モデル特有の変換処理や実行コードの記述負担を大幅に軽減できるとされる。
オープンモデルのハギングフェイスIDやローカルのチェックポイントから僅か2つのコマンドでC++推論環境を構築可能とのことだ。タスクレベルの簡易操作を行うセマンティックAPIと、細かな調整を可能にするモジュールレベルAPIの双方が提供されていると伝えられている。
独自開発されたGPUカーネルの統合や自動的なコード生成プロセスも取り入れられており、多様なオープンモデルへの迅速な対応が期待されている。同社は開発者が最先端のAI推論エンジンを容易に利用できる環境を整備し、エコシステム全体の技術発展に寄与していく構想と報じられている。
最新のニュース
Notch社、AIコンプライアンス事業拡大のため3000万ドルの資金を確保
26/3/27 9:00
規制対象分野向けAIプラットフォームを提供するNotchは、シリーズA資金調達ラウンドで3,000万ドルの資金調達に成功した。
%20(1).webp)
OVHcloudがEnhance AIのためDragon LLMを買収
26/3/27 9:00
OVHcloudは、規制産業向けAIモデルの微調整に特化したプラットフォームであるDragon LLMを買収する契約を締結し、生成型AIにおける能力強化に向けた戦略的動きを発表しました。
%20(1).webp)
Solo Tech社がAIエージェント評価ツール「agentevals」をリリース
26/3/27 9:00
Solo.ioは、AIエージェントの挙動評価を強化するために設計された革新的なオープンソースプロジェクト「agentevals」を発表しました。
Copyright © 2024 Generatived - All right Reserved.
ニュース
フォローをお願いします
言語
Generatived は、Generative AIに特化した情報やトレンドをお届けするサービスです。大きく変わりゆく世界の情報を全力でお届けします。
Generatived は、Generative AIに特化した情報やトレンドをお届けするサービスです。大きく変わりゆく世界の情報を全力でお届けします。
フォローをお願いします
言語
最新のニュース
Notch社、AIコンプライアンス事業拡大のため3000万ドルの資金を確保
26/3/27 9:00
規制対象分野向けAIプラットフォームを提供するNotchは、シリーズA資金調達ラウンドで3,000万ドルの資金調達に成功した。
OVHcloudがEnhance AIのためDragon LLMを買収
26/3/27 9:00
OVHcloudは、規制産業向けAIモデルの微調整に特化したプラットフォームであるDragon LLMを買収する契約を締結し、生成型AIにおける能力強化に向けた戦略的動きを発表しました。
Solo Tech社がAIエージェント評価ツール「agentevals 」をリリース
26/3/27 9:00
Solo.ioは、AIエージェントの挙動評価を強化するために設計された革新的なオープンソースプロジェクト「agentevals」を発表しました。