Generatived（Beta）｜生成AIの最新ニュースとトレンドを提供
%20(1).webp)
OpenAIがプロンプト基盤改善
Generatived
26/9/22 7:00
OpenAI（サンフランシスコ）は、GPT-6モデル群に向けたプロンプトキャッシュシステムの改良と運用ツールの拡充を発表した。30分以内に再利用された共有接頭辞に対して入力トークン費用を最大90%割引する仕組みを導入し、キャッシュヒット率の向上を図る構想とされる。
新たに提供されるダッシュボードでは、利用状況やヒット率の推移を可視化し、キャッシュ未ヒット時の原因特定を容易にする診断機能が備えられた模様だ。開発者は明示的なブレークポイントを設定することで、効率的なコンテキストの保持と最適化を選択可能になると分かった。
さらに推論プロセスの設定変更時にもキャッシュ状態を維持できる機能や、事前にデータを読み込むプリウォーミング機能が追加されたという。同社は長時間の指示や多段階の処理を必要とするAIエージェントの開発コストを削減し、安定した運用の推進を後押ししていく構想と報じられている。
最新のニュース
ココペリが海外商談基盤
26/9/25 7:00
ココペリ（東京都千代田区）は、福井銀行において海外ビジネスマッチングプラットフォーム『BIG ADVANCE GLOBAL』の運用が開始されたと発表した。
%20(1).webp)
HEROZがAI議事録提供
26/9/25 7:00
HEROZ（東京都港区）は、スマートフォンで音声を録音するだけでAIが文字起こしや整理を行い、議事録を自動生成するiOSアプリ『HEROZ ASK』の提供を開始した。
%20(1).webp)
KAYTUSがAI保守開始
26/9/25 7:00
KAYTUS（シンガポール）は、AIデータセンターおよび超大規模計算クラスタ向けにハードウェアの保守サポートを一括提供する『OEM AI Managed Service』を開始した。
%20(1).webp)
Copyright © 2024 Generatived - All right Reserved.
ニュース
フォローをお願いします
言語
Generatived は、Generative AIに特化した情報やトレンドをお届けするサービスです。大きく変わりゆく世界の情報を全力でお届けします。
Generatived は、Generative AIに特化した情報やトレンドをお届けするサービスです。大きく変わりゆく世界の情報を全力でお届けします。
フォローをお願いします
言語
最新のニュース
ココペリが海外商談基盤
26/9/25 7:00
ココペリ（東京都千代田区）は、福井銀行において海外ビジネスマッチングプラットフォーム『BIG ADVANCE GLOBAL』の運用が開始されたと発表した。
HEROZがAI議事録提供
26/9/25 7:00
HEROZ（東京都港区）は、スマートフォンで音声を録音するだけでAIが文字起こしや整理を行い、議事録を自動生成するiOSアプリ『HEROZ ASK』の提供を開始した。
KAYTUSがAI保守開始
26/9/25 7:00
KAYTUS（シンガポール）は、AIデータセンターおよび超大規模計算クラスタ向けにハードウェアの保守サポートを一括提供する『OEM AI Managed Service』を開始した。