← 返回全部情报
Block 安全团队用 OpenAI Daybreak 搭安全 harness:7 个月遥测回放不到 1 小时,提交漏洞到自动补丁提案 18 分钟 的封面

·Blog·客户案例收录 2026-10-21

Block 安全团队用 OpenAI Daybreak 搭安全 harness:7 个月遥测回放不到 1 小时,提交漏洞到自动补丁提案 18 分钟

金融工程安全运营Daybreak告警分诊红队模型路由

一句话结论

Square、Cash App、Afterpay 的母公司 Block 在 Daybreak 之上搭了自己的安全 harness,按任务把活分给不同模型,保留每次调查的原始查询证据,并留出人工接管和智能体互查的钩子;结果是检测规则改动能在一小时内对 7 个月生产遥测回放,每季度约 600 个分析师小时的误报分诊被省下,同时完成约 1,100 个分析师小时的深度调查。

打开原文 OpenAI:How Block is building AI-powered security with OpenAI technology

背景与理念

Block 的首席信息安全官 James Nettesheim 认为,AI 正在压缩「从人的意图到行动」的时间,防守方终于可以用同样的速度对抗攻击者。过去审一个软件漏洞或者解析一份日志要几天到几周,现在用很短时间就能做完,但每个结果仍由人来验证。

他把 AI 定位成「可以随着规模一起扩展的新队友」,而不是传统意义上一步一步写好的自动化。你可以把一个相当模糊、定制化的问题丢给它,然后一起推进。

具体做法

  1. 每次调查都保存原始查询证据。这样当团队想调整一条检测规则时,可以把改动拿去对过去 7 个月的生产遥测做回放,以前这要靠手工重查几百个旧案例,实际上很少有人做。
  2. 在 Daybreak 之上搭自己的安全 harness,按任务路由到合适的模型。Nettesheim 说他们以前总用最新模型,现在不需要了,不同任务选不同模型是一个学习过程;harness 里还有让人接管任务、让智能体互相核验工作的钩子。
  3. 持续用内部基准和真实表现评估这些系统。需要时会调整做法,包括在更负责任的情况下把工作转给人工审核。
  4. 每条告警都做完整深度调查。他说系统处理每条告警时「就像那天只有这一条告警」,把告警涉及的所有元素都查一遍。
  5. 修复流程固定为:定位问题代码和负责人,提出补丁,确认可利用性,再验证已修好。整个过程有人在环里指导并部署代码改动;随着 AI 的判断在实践中得到验证,他们会逐步把它用到风险更高、更敏感的系统上。

关键数据/例子

文中列出的结果包括:检测规则改动对 7 个月遥测回放用时不到 1 小时;最近红队演练中,从提交高层级漏洞描述到自动给出补丁提案用了 18 分钟;每季度省下约 600 个分析师小时的误报分诊;每季度完成约 1,100 个分析师小时的调查;分诊吞吐提升 50%,情报收集与调查量提升 50%。此外还新增了一项自主威胁狩猎能力。

有一个例子是:一台笔记本上的告警单看只像一次小的策略违规,但在同行评审环节,模型顺着证据里偶然出现的一个指标,把它和身份日志关联起来,最后发现了一整套更大的问题。Nettesheim 的原话是:「一条例行终端告警变成了一次攻击活动的清剿。没有哪个单一工具能做这个关联,信号只存在于两款产品的日志之间。」

在另一次红队演练中,模型只拿到关于某个内部系统的几条提示,就在大约两小时内串出完整攻击路径:SQL 注入、提权、建立立足点、枚举凭据、横向移动到其他系统。文中说人类红队成员通常要花几天。

创新点

第一,把「保留原始证据」当成基础设施,而不是事后补救。正是因为每次调查的查询都被存下来,检测规则的回放验证才从「很少做」变成「一小时内做完」。

第二,承认不必所有任务都用最强模型,把模型选择写进 harness。再配上人工接管和智能体互查,让自动化与问责可以并存。

可否复用

  1. 先把调查过程的原始查询和证据结构化保存。这是以后做规则回放、复盘和训练评测的前提。
  2. 按任务给模型分工。分诊、关联分析、补丁草拟对模型能力的要求不同,路由可以同时省钱和提速。
  3. 在流程里预留人工接管点和智能体互查环节。尤其是要改动生产代码的步骤,保留人来部署。
  4. 按风险等级逐步放权。先在低风险系统上验证 AI 的判断,再一级一级往敏感系统推进。

笔记会在输入时自动保存。