跳到正文
原文
OpenAI:官网动态(RSS · 排除企业/客户案例)·· 2024-10-01精选AI 评分65

OpenAI API 推出 Prompt Caching 自动折扣

Prompt Caching in the API

AI 导读

OpenAI 在 API 中推出 Prompt Caching 功能,对模型近期已见过的输入自动提供折扣。材料为 feed 摘要,未提供更多细节。

推荐理由

OpenAI 官宣 API 提示词缓存自动折扣,读者可据此评估重复输入场景的成本变化。

来源:OpenAI:官网动态(RSS · 排除企业/客户案例) · openai.com