
Anthropic 工程师复盘 CI 被智能体压垮:半年作业量涨 25 倍,三次补丁只撑了 70 天、29 天和不到一天,最后一个人三周重构成无状态架构
一句话结论
Anthropic 工程师人均每季度交付的代码是 2021 到 2025 年的 8 倍、其中 80% 由 Claude 编写,测试数量涨了 10 倍,CI 作业半年涨了 25 倍;内部测试选择服务先后靠加机器、按包分片、每日重启续命,分别只撑了 70 天、29 天和不到一天,最终改成把状态放进内存数据存储的无状态水平扩展架构,一名工程师三周完成。
背景与理念
这篇文章发布于 2026 年 9 月 14 日,作者 Sachin Malhotra 讲的是写代码不再是瓶颈之后,压力如何一路传到 CI。Anthropic 工程师平均每季度交付的代码量是 2021 到 2025 年的 8 倍,其中 80% 由 Claude 编写,Claude 还大量参与审查和批准 PR;测试数量涨了 10 倍,工程师只增加了一点点,结果是六个月里 CI 作业量涨了 25 倍。
作者想强调的不是加机器、并行化、重启这些常见技巧,而是「永远按指数增长来规划」。这些技巧每一次能争取到的时间都只有一年前的几分之一;反过来,现在彻底重设计一个服务所需的时间也只有过去的几分之一。
具体做法
原来的架构
Anthropic 用一个确定性的测试影响分析服务,根据历史表现和包的相关性决定每个 PR 跑哪些测试。它有两个组件:listener 记录每次 CI 运行的测试结果,selector 读取历史并为新 PR 选测试。因为每个测试的历史需要单一写入者按顺序更新,整个服务跑在一个进程里,无法水平分片。作者还指出,人类能判断哪些失败与自己无关,智能体则需要更明确的上下文,给它一组确定有效的测试,它才能更好地自我验证和迭代。
三次补丁
1. 补丁一:换更大的机器。去年 10 月服务开始吃紧,连续两天被呼叫,于是把核数翻倍。大家都知道这只是权宜之计,但当时没人愿意再认领一块基础设施。
2. 补丁二:按包分片。作者在内部版 Claude Tag 里开了一个长期会话专门盯这个服务,listener 落后超过 5 万个作业就提醒他并接着上次的上下文讨论。今年 2 月他们意识到并不需要全局单一写入者,只需要每个包一个写入者,于是由 Claude 生成代码,把每个包的状态拆成独立分片和 worker。
3. 补丁三:每日重启。3 月进程在大多数工作日下午就撞到内存上限;只找到四个 bug,换内存分配器没用,又不敢在高负载的单实例上做内存分析。重启只能撑不到一天,而且服务逐渐越落越远,几次落后超过一小时,导致大量结果没被记录,selector 只能用陈旧数据选测试。
最终重设计
他们采纳了 Claude 一直坚持的建议:给测试选择服务配一个数据库,准确说是一个内存数据存储。任何 listener worker 都可以处理任何结果,把它追加到存储里的日志后就继续,不在进程里持有状态,因此可以水平扩展;另一个小进程每隔几秒把日志汇总成每个测试的历史,selector 可以快速查询。日志大小和 worker 数量的调优大多由 Claude 自主完成。
关键数据/例子
规模:人均季度代码量 8 倍,Claude 写 80%,测试数量 10 倍,CI 作业半年 25 倍。
补丁寿命:三次快速修补分别撑了 70 天、29 天和不到一天。
延迟代价:listener 落后 20 分钟,就可能有数万条测试更新没应用到 selector 上,后果包括坏改动合并后人人都看到同一个测试失败、依赖抖动导致的假红阻塞合并、新加或修好的测试迟迟不跑。
重构成本:一名工程师三周完成;作者说一年前这大概要一个季度。新架构运行成本更高,但更容易扩展和做内存分析;文中的积压曲线显示,切换前积压几乎每天出现且逐周增长,切换并调优后变平。
创新点
第一,把「AI 让写代码变便宜」的二阶效应讲透了:瓶颈会顺着流水线下移到审查和 CI。Claude 偏好更小、更细的 PR,智能体晚上和周末也在推代码,作业量的底线被抬高,同时仍有人类驱动的突发峰值。
第二,用一个长期运行的智能体会话来「值守」一个服务。它记得之前所有尝试和上下文,超过阈值时主动呼叫人,这让长达数月的排障不必每次重讲背景。
第三,重构的门槛被 AI 拉低之后,「先打补丁」不再是默认更省的选项。作者的结论是越早预判压力、规划好架构演进,越少在半吊子方案上浪费时间。
可否复用
- 作者给工程团队的建议是:不管自建还是采购,都假设你的架构在两个季度内要承受 25 倍负载。预算允许的话,v0 设计就按感知规模的 10 到 20 倍来做。
- 从第一天就把状态移出进程,关键服务不要跑单实例,除非你能度量它并做金丝雀发布。
- 把服务的指标做成 Claude 的「眼睛和耳朵」,尤其要监控进来的 CI 作业数等于出去的作业数,这样智能体能逐步爬坡、修问题,比人工快得多。
- 还在每个 PR 上跑全部测试的团队,应尽早引入测试影响分析,否则 CI 门禁会越来越长、越来越贵,也越来越不可信。
- 给长期排障开一个专用的智能体会话并设阈值告警,让它持续记住来龙去脉。