Generatived(Beta)|生成AIの最新ニュースとトレンドを提供
%20(1).webp)
OpenAIがプロンプト基盤改善
Generatived
26/9/22 7:00
OpenAI(サンフランシスコ)は、GPT-6モデル群に向けたプロンプトキャッシュシステムの改良と運用ツールの拡充を発表した。30分以内に再利用された共有接頭辞に対して入力トークン費用を最大90%割引する仕組みを導入し、キャッシュヒット率の向上を図る構想とされる。
新たに提供されるダッシュボードでは、利用状況やヒット率の推移を可視化し、キャッシュ未ヒット時の原因特定を容易にする診断機能が備えられた模様だ。開発者は明示的なブレークポイントを設定することで、効率的なコンテキストの保持と最適化を選択可能になると分かった。
さらに推論プロセスの設定変更時にもキャッシュ状態を維持できる機能や、事前にデータを読み込むプリウォーミング機能が追加されたという。同社は長時間の指示や多段階の処理を必要とするAIエージェントの開発コストを削減し、安定した運用の推進を後押ししていく構想と報じられている。
最新のニュース
コロプラが黒猫のウィズ新章
26/9/30 7:00
コロプラ(東京都港区)は、スマホ向けゲーム『クイズRPG 魔法使いと黒猫のウィズ』において、新イベント「オボロ・ダスト2 烈谺×悠翔×火と吼えよ」を開始したと発表した。
Copyright © 2024 Generatived - All right Reserved.
ニュース
Generatived は、Generative AIに特化した情報やトレンドをお届けするサービスです。大きく変わりゆく世界の情報を全力でお届けします。
最新のニュース
コロプラが黒猫のウィズ新章
26/9/30 7:00
コロプラ(東京都港区)は、スマホ向けゲーム『クイズRPG 魔法使いと黒猫のウィズ』において、新イベント「オボロ・ダスト2 烈谺×悠翔×火と吼えよ」を開始したと発表した。



%20(1).webp)
%20(1).webp)

