← 返回全部情报
Every 工程师把公司 Slack 智能体的 11 类高频任务 token 成本砍掉八成以上:换 Opus 5.5、缩短工具返回、延迟加载工具说明,并修掉「每人一个 Slack ID 导致缓存失效」的系统提示 bug 的封面

·Every(Context Window)·工程博客收录 2026-10-10

Every 工程师把公司 Slack 智能体的 11 类高频任务 token 成本砍掉八成以上:换 Opus 5.5、缩短工具返回、延迟加载工具说明,并修掉「每人一个 Slack ID 导致缓存失效」的系统提示 bug

Every Agenttoken 效率缓存工具返回延迟加载Opus 5.5成本

一句话结论

Every 在推出向用户按成本原价结算的公司级 Slack 智能体后,工程师 Paridhi Agarwal 放弃「便宜协调模型把难活转给 Opus」的路由方案(质量与速度都变差,还常双模型都跑一遍反而更贵),改从自家代码里找浪费:先切到 Opus 5.5,再缩短工具返回、用延迟加载只先给常用工具短说明,最后发现 Claude 会把含用户 Slack ID 的 memory 文件夹名写进系统提示,导致跨用户无法复用缓存;把文件夹改成统一通用名后,她的最佳测试里单这一项就再砍约 74%,叠加后 11 类高频任务总成本降八成以上,并给出可照抄的四步「先诊断再改、前后同任务对比」流程。

打开原文 Every:Building a More Efficient Agent

背景与理念

Every 把智能体的 token 成本原价转给订阅用户,所以省下来的每一分都直接落到用户账上,token 效率成了产品本身。团队曾试过用更便宜的 Sonnet 做协调、复杂任务再交给 Opus,结果是:Sonnet 不擅长判断自己的极限,质量与速度一起掉,还经常两台模型都跑一遍,成本不降反升。

Paridhi 的判断是:不一定要用复杂工程系统去治「自家代码里的浪费」。她改成和 Opus 5.5 结对,先让模型读代码做诊断,再逐项改、逐项测。

具体做法

  1. 先换模型。Every Agent 从 Opus 5 切到 Opus 5.5 后,响应质量上升,token 成本在「几小时内」就明显下降。
  2. 缩短工具返回、延迟加载工具说明。GitHub、Linear 等工具原先带回大量内部细节;她改成更短、带标签的结果,并让智能体起步时只拿常用工具的名称与短描述,完整说明和其他工具按需再加载。这两项合计约再降 10%。
  3. 修缓存失效。每段新会话都要处理行为系统提示;文本完全一致时 Claude 才能缓存复用。团队以为缓存在工作,其实 Claude 会自动把 memory 文件夹名写进系统提示,而 Every 的命名里含有每位用户的 Slack ID,提示对每个用户都不同,跨用户缓存全部失效。修复是给 memory 文件夹统一通用名,把 Slack ID 放到模型看不见的地方——用户仍只能访问自己的记忆,但缓存可以复用。她的最佳测试里,这一项单独再砍约 74%。
  4. 可复用的四步流程。先说明要改善的目标并让智能体读代码与官方文档、只诊断不改;再让它找不必要工作并优先用现有产品能力(例如 deferred tool loading);然后在安全副本上对同一批代表性任务做改前改后对比,同时看成本与结果质量;最后对剩余贵或慢的点继续追日志、提最简修复。文中还提到:共享公司智能体比每人一只「宠物」智能体更好维护;个人智能体更适合下班后的教练、治疗师等关系型用途。

关键数据/例子

11 类高频任务的 token 成本合计降八成以上(模型升级 + 工具精简 + 缓存修复叠加)。

工具返回与延迟加载合计约降 10%;缓存修复在最佳测试中再砍约 74%。

失败对照:廉价协调模型把活转给贵模型,常变成双模型都跑,成本上升。

创新点

第一,把「先查自家浪费」排在「加一层路由编排」之前。复杂协调在这篇案例里反而更贵。

第二,把缓存失效当成可测的产品 bug。根因是系统提示里混进了用户标识,而不是模型「不会缓存」。

第三,用「改前改后同一批任务」强制对照质量,避免只追求更便宜。

可否复用

  1. 给智能体设一个可量化的效率目标(成本、延迟或重复工作),先让它解释现状再动代码。
  2. 检查系统提示是否含用户 ID、时间戳等会破坏缓存的字段,把可变部分挪到提示外。
  3. 工具返回默认「短而带标签」,完整 schema 按需加载。
  4. 每次只改一项并跑同一批任务对比,同时记录成本和结果是否仍可用。

笔记会在输入时自动保存。