Generatived（Beta）｜生成AIの最新ニュースとトレンドを提供
%20(1).webp)
OpenAIがプロンプト基盤改善
Generatived
26/9/22 7:00
OpenAI（サンフランシスコ）は、GPT-6モデル群に向けたプロンプトキャッシュシステムの改良と運用ツールの拡充を発表した。30分以内に再利用された共有接頭辞に対して入力トークン費用を最大90%割引する仕組みを導入し、キャッシュヒット率の向上を図る構想とされる。
新たに提供されるダッシュボードでは、利用状況やヒット率の推移を可視化し、キャッシュ未ヒット時の原因特定を容易にする診断機能が備えられた模様だ。開発者は明示的なブレークポイントを設定することで、効率的なコンテキストの保持と最適化を選択可能になると分かった。
さらに推論プロセスの設定変更時にもキャッシュ状態を維持できる機能や、事前にデータを読み込むプリウォーミング機能が追加されたという。同社は長時間の指示や多段階の処理を必要とするAIエージェントの開発コストを削減し、安定した運用の推進を後押ししていく構想と報じられている。
最新のニュース
NVIDIA、JAX向けHBM削減技術を紹介
26/7/14 9:00
NVIDIA（米国カリフォルニア州）は、JAXを用いた大規模言語モデル（LLM）の学習において、GPU高帯域幅メモリ（HBM）の使用量を抑える「Host Offloading」の活用方法を紹介した。
Deutsche Telekom AIネイティブ戦略加速
26/7/14 9:00
Deutsche Telekom（ドイツ・ボン）は、AIを企業運営の中核に据える「AIネイティブ通信事業者」への転換を進めていると発表した。
%20(1).webp)
Meshy、3D生成AI体験ワークショップ開催
26/7/14 9:00
Meshy（米国カリフォルニア州）は、3D生成AI「Meshy」を体験できる公式ハンズオンワークショップ「Meshy 3D Creative Hub」を7月25日に東京・渋谷サクラステージ内「404 Not Found」で開催すると発表した。
Copyright © 2024 Generatived - All right Reserved.
ニュース
フォローをお願いします
言語
Generatived は、Generative AIに特化した情報やトレンドをお届けするサービスです。大きく変わりゆく世界の情報を全力でお届けします。
Generatived は、Generative AIに特化した情報やトレンドをお届けするサービスです。大きく変わりゆく世界の情報を全力でお届けします。
フォローをお願いします
言語
最新のニュース
NVIDIA、JAX向けHBM削減技術を紹介
26/7/14 9:00
NVIDIA（米国カリフォルニア州）は、JAXを用いた大規模言語モデル（LLM）の学習において、GPU高帯域幅メモリ（HBM）の使用量を抑える「Host Offloading」の活用方法を紹介した。
Deutsche Telekom AIネイティブ戦略加速
26/7/14 9:00
Deutsche Telekom（ドイツ・ボン）は、AIを企業運営の中核に据える「AIネイティブ通信事業者」への転換を進めていると発表した。
Meshy、3D生成AI体験ワークショップ開催
26/7/14 9:00
Meshy（米国カリフォルニア州）は、3D生成AI「Meshy」を体験できる公式ハンズオンワークショップ「Meshy 3D Creative Hub」を7月25日に東京・渋谷サクラステージ内「404 Not Found」で開催すると発表した。