文档中心 / AI 热点雷达 / OpenAI API 推出 Prompt Caching，对近期见过的输入自动折…

OpenAI API 推出 Prompt Caching，对近期见过的输入自动折扣

来源：OpenAI：官网动态（RSS · 排除企业/客户案例） · 时间：2024-10-01T10:03:00.000Z

事件速览

OpenAI 在 API 中推出 Prompt Caching 功能，对模型最近见过的输入内容自动提供折扣。该功能面向 API 用户，可降低重复前缀类请求的输入成本。