跳到正文
Tibo· @thsottiaux · X·· 3 小时前精选AI 评分67
AI 导读

OpenAI 宣布 API 现已支持 12 小时提示缓存,间隔数小时的请求也能以更低的缓存输入价格复用共享指令、工具和上下文。对 Codex 与 Work 的登录用户,缓存永久保留,回到旧对话或数小时后恢复会话都能保证命中缓存且无额外代价。

推荐理由

原文给出 API 12 小时缓存与 Codex、Work 用户永久缓存的具体变化,可据此评估长间隔请求的成本影响。

正文 · AI 翻译

第 16 天/

现在你可以在 API 中缓存 12 小时,而对于已登录用户在 Codex 和 Work 中,我们会永久保留缓存,你回到旧对话或几小时后恢复都不会有任何惩罚,并且现在保证命中缓存。

引用OpenAI Developers@OpenAIDevs
你现在可以在 API 中选择 12 小时提示缓存。 像 dots 这样的持久化 agent 会在一天中反复复用上下文。 你可以将共享指令、工具和上下文缓存更长时间,并支付更低的缓存输入费率,即使请求之间相隔数小时。
原文

You can now choose 12-hour prompt caching in the API. Persistent agents, like dots, reuse context throughout the day. You can keep shared instructions, tools, and context cached longer and pay the lower cached-input rate, even when requests are hours apart.

在 X 查看被引用的帖子

来源:Tibo · x.com