Generatived（Beta）｜生成AIの最新ニュースとトレンドを提供
%20(1).webp)
OpenAIがプロンプト基盤改善
Generatived
26/9/22 7:00
OpenAI（サンフランシスコ）は、GPT-6モデル群に向けたプロンプトキャッシュシステムの改良と運用ツールの拡充を発表した。30分以内に再利用された共有接頭辞に対して入力トークン費用を最大90%割引する仕組みを導入し、キャッシュヒット率の向上を図る構想とされる。
新たに提供されるダッシュボードでは、利用状況やヒット率の推移を可視化し、キャッシュ未ヒット時の原因特定を容易にする診断機能が備えられた模様だ。開発者は明示的なブレークポイントを設定することで、効率的なコンテキストの保持と最適化を選択可能になると分かった。
さらに推論プロセスの設定変更時にもキャッシュ状態を維持できる機能や、事前にデータを読み込むプリウォーミング機能が追加されたという。同社は長時間の指示や多段階の処理を必要とするAIエージェントの開発コストを削減し、安定した運用の推進を後押ししていく構想と報じられている。
最新のニュース
AItegrity、面接官設定AIシステムを構築
26/7/20 9:00
AItegrity（埼玉県志木市）は、大手住宅メーカーの人事部門向けに、年間約300回に及ぶ採用面接の面接官選定を効率化する「面接設定AIシステム」のプロトタイプを構築した。
Multiverse Computing、5億7,000万ドル調達
26/7/20 9:00
Multiverse Computing（サンセバスチャン）は、シリーズCで5億7,000万ドルを調達し、プレマネー評価額17億ドルで資金調達を実施したと発表した。
NVIDIA、LLM向けGPU最適化設計指針公開
26/7/14 9:00
NVIDIA（米国カリフォルニア州）は、大規模言語モデル（LLM）の性能を最大限引き出すためのGPU最適化設計ガイドを公開したと発表した。
Copyright © 2024 Generatived - All right Reserved.
ニュース
フォローをお願いします
言語
Generatived は、Generative AIに特化した情報やトレンドをお届けするサービスです。大きく変わりゆく世界の情報を全力でお届けします。
Generatived は、Generative AIに特化した情報やトレンドをお届けするサービスです。大きく変わりゆく世界の情報を全力でお届けします。
フォローをお願いします
言語
最新のニュース
AItegrity、面接官設定AIシステムを構築
26/7/20 9:00
AItegrity（埼玉県志木市）は、大手住宅メーカーの人事部門向けに、年間約300回に及ぶ採用面接の面接官選定を効率化する「面接設定AIシステム」のプロトタイプを構築した。
Multiverse Computing、5億7,000万ドル調達
26/7/20 9:00
Multiverse Computing（サンセバスチャン）は、シリーズCで5億7,000万ドルを調達し、プレマネー評価額17億ドルで資金調達を実施したと発表した。
NVIDIA、LLM向けGPU最適化設計指針公開
26/7/14 9:00
NVIDIA（米国カリフォルニア州）は、大規模言語モデル（LLM）の性能を最大限引き出すためのGPU最適化設計ガイドを公開したと発表した。