OpenAI:官网动态(RSS · 排除企业/客户案例)·· 2024-10-01精选AI 评分65
OpenAI API 推出 Prompt Caching 自动折扣
Prompt Caching in the API
AI 导读
OpenAI 在 API 中推出 Prompt Caching 功能,对模型近期已见过的输入自动提供折扣。材料为 feed 摘要,未提供更多细节。
推荐理由
OpenAI 官宣 API 提示词缓存自动折扣,读者可据此评估重复输入场景的成本变化。
来源:OpenAI:官网动态(RSS · 排除企业/客户案例) · openai.com