智识花园阅读、实践、留下笔记
产品AI 评分 65/100

OpenAI API 支持 12 小时 prompt 缓存,Codex 与 Work 用户缓存永久保留

X:Tibo (@thsottiaux)查看原始信源 ↗

AI guide

AI 导读

OpenAI 开发者账号宣布 API 现已可选 12 小时 prompt 缓存,持续运行的智能体可在请求间隔数小时的情况下继续以更低的缓存输入费率复用指令、工具和上下文。Tibo 补充称,Codex 与 Work 中已登录用户的缓存会永久保留,返回旧对话或数小时后恢复会话保证命中缓存,且无额外惩罚。

数据来源:AIHOT aihot.news ↗ · 内容版权归原作者所有