OmniTools 5月15日消息，有开发者分享了一种优化 Claude API 首令牌延迟的实用方法：提示预缓存（prompt pre caching）。该方法通过在用户实际请求前，预先向 API 发送系统提示（system prompt），促使模型将其写入缓存但不生成输出。 当真实用户请求携带相同提示结构到达时，API 可直接命中预热缓存，从而显著缩短首令牌生成时间，尤其适用于长提示场景。该技巧无需修改模型或部署配置，仅依赖现有 API 调用逻辑调整即可实现。
