
Google DeepMind:用 AlphaProof Code 在四周内形式化验证 Signal 协议的实际编译代码
工程Google DeepMind形式化验证SignalGemini CarbonLean
一句话结论
Google DeepMind 介绍了多模型代理框架 AlphaProof Code:人与模型共同把 Signal 的安全目标写成形式化规范,再由 Gemini Carbon 驱动的代理生成逾 600 万行 Lean 证明,整个验证用了四周,并在重新植入两个已修复漏洞后证明有漏洞版本不安全。
打开原文
Google DeepMind:Formal Verification of Signal’s Protocol with Gemini
背景与理念
形式化验证能在数学上证明代码满足给定性质,是安全保证里最高的一档,但通常耗时且高度依赖专家手工。多数协议验证还停在设计层。作者认为真实漏洞常常藏在设计与实现之间的缝隙里,因此要证明的是设备上实际编译出来的代码,而不仅是协议描述。他们把这次工作称为:首次把 AI 用到如此深度的、已大规模部署的密码协议形式化验证,也是该协议实现首次被任何方法做到这一深度的验证。
具体做法
- 框架按研究团队的方式拆工:人类专家与一组模型一起决定要证明什么,再由代理去证明。研究人员与混合模型把 Signal 的安全目标翻译成形式化数学规范,每一条都经人类专家审阅。
- 由 Gemini Carbon 驱动的代理生成证明,累计写出逾 600 万行 Lean。Lean 会自动检查证明是否成立;代理随后审计证明,并标出需要人再看一眼的部分,作者称这部分只占代码库的百分之一,从而把专家时间集中到判断真正重要的地方。
- 证明对象下到已编译的核心密码代码,覆盖的性质包括设备被暂时攻破前后消息仍受到保护等。整个验证用了四周。为确认系统分得出正确代码和有漏洞代码,团队在隔离版本里重新引入两个此前已修复的真实漏洞,两次都得到了机器检查过的证明:有漏洞版本是不安全的。
- 作者同时开源形式化验证产物,并提到可与自动防御代理 CodeMender 搭配,用于应对更大规模的自动攻击。Signal 首席技术官 Ehren Kret 在文中表示,用 AI 代理把线上代码翻译成有效的 Lean 定理是重大进展,有助于在 AI 驱动的安全威胁增长时,对协议实现的隐私保证更有信心。
关键数据/例子
代理生成了逾 600 万行 Lean,人工需要再看的部分约占代码库的 1%,端到端验证用时四周;作者称同类任务过去常要专家团队数年。重新植入的两个已修复漏洞,都被系统证明为不安全。文章没有给出规范条目数量、代理失败率或与纯人工工作量的逐项对照表。
创新点
第一,把「写规范」和「写证明」分开:规范必须经过人审,证明可以由代理大规模生成并由证明助手机械检查。第二,验证对象从协议设计下到实际编译代码,并用已知旧漏洞做反向测试,确认系统不只会为「看起来正确」的代码放行。
可否复用
- 先由人审定要保证的性质,再让模型去生成机器可检查的证明,不要把规范写作也完全交给模型。
- 用已知已修复漏洞做对照:系统应当能证明有漏洞版本不满足规范,而不能只对当前代码给出通过结果。
- 把人工审查集中在代理标出的、证明助手无法代为判断的少量位置,其余交给机械检查。