Pi开始给Prompt缓存自动续命,长任务少烧重复Token
2026-09-20 18:04:58
币界网消息,Pi agent harness发布0.86.0,新增prompt cache warming。agent在长时间工具任务时,Pi会在缓存快过期前重发上一次请求,只生成1个token,保留已缓存的长上下文。许多模型服务在一段时间没有请求后会清掉prompt cache,继续任务时同一大段上下文可能重新按完整输入计费。Pi现在会主动避免这种cache miss,但不会无脑保活,只有预计避免的cache miss成本减去刷新成本后,至少省0.05美元时,才会发起刷新。每次刷新仍需支付整段缓存读取和1个输出token的费用。
出典:互联网
このコンテンツは市場情報のみを提供するものであり、投資アドバイスを構成するものではありません。
CoinWorld公式アカウントをフォローして最新情報を入手









