Generatived（Beta）｜生成AIの最新ニュースとトレンドを提供
NVIDIAがTensorRT技術公開
Generatived
26/8/28 7:00
NVIDIA（カリフォルニア州サンタクララ）は、ネイティブC++アプリケーションへオープンAIモデルを組み込むための参考実装コレクション「TensorRT Model Connect」を公開した。本ツールにより、モデル特有の変換処理や実行コードの記述負担を大幅に軽減できるとされる。
オープンモデルのハギングフェイスIDやローカルのチェックポイントから僅か2つのコマンドでC++推論環境を構築可能とのことだ。タスクレベルの簡易操作を行うセマンティックAPIと、細かな調整を可能にするモジュールレベルAPIの双方が提供されていると伝えられている。
独自開発されたGPUカーネルの統合や自動的なコード生成プロセスも取り入れられており、多様なオープンモデルへの迅速な対応が期待されている。同社は開発者が最先端のAI推論エンジンを容易に利用できる環境を整備し、エコシステム全体の技術発展に寄与していく構想と報じられている。
最新のニュース
OpenAI、AI導入支援会社を設立
26/5/13 9:00
OpenAI（米カリフォルニア州）は、企業向けAI導入支援を担う新会社「OpenAI Deployment Company」の設立を発表した。
3社、秘密分散型RAGを開発
26/5/12 9:00
イージス・アプリケーション、ZenmuTech、Technica AIの3社は、秘密分散技術とRAG（検索拡張生成）を組み合わせた「秘密分散×RAGソリューション」を共同開発したと発表した。
サージクラフト、AI対応基盤を提供開始
26/5/12 9:00
サージクラフトは、LINEやメール、Webチャット、SNSなど複数チャネルの問い合わせを一元管理し、AIによる回答生成と人間レビューを組み合わせたカスタマーサポートAIプラットフォーム「TuneAIBot」の提供を開始したと発表した。
%20(1).webp)
Copyright © 2024 Generatived - All right Reserved.
ニュース
フォローをお願いします
言語
Generatived は、Generative AIに特化した情報やトレンドをお届けするサービスです。大きく変わりゆく世界の情報を全力でお届けします。
Generatived は、Generative AIに特化した情報やトレンドをお届けするサービスです。大きく変わりゆく世界の情報を全力でお届けします。
フォローをお願いします
言語
最新のニュース
OpenAI、AI導入支援会社を設立
26/5/13 9:00
OpenAI（米カリフォルニア州）は、企業向けAI導入支援を担う新会社「OpenAI Deployment Company」の設立を発表した。
3社、秘密分散型RAGを開発
26/5/12 9:00
イージス・アプリケーション、ZenmuTech、Technica AIの3社は、秘密分散技術とRAG（検索拡張生成）を組み合わせた「秘密分散×RAGソリューション」を共同開発したと発表した。
サージクラフト、AI対応基盤を提供開始
26/5/12 9:00
サージクラフトは、LINEやメール、Webチャット、SNSなど複数チャネルの問い合わせを一元管理し、AIによる回答生成と人間レビューを組み合わせたカスタマーサポートAIプラットフォーム「TuneAIBot」の提供を開始したと発表した。