← 返回全部情报
Anthropic × Theorem:用 Claude 在 RISC-V 汇编级证明 123 个 OSS-Fuzz 库任意小于 64MB 输入不崩溃,约 1.8 亿行 Rocq 的封面

·Anthropic·论文/研究收录 2026-10-24

Anthropic × Theorem:用 Claude 在 RISC-V 汇编级证明 123 个 OSS-Fuzz 库任意小于 64MB 输入不崩溃,约 1.8 亿行 Rocq

工程形式化验证ClaudeRISC-VOSS-FuzzRocq安全

一句话结论

团队用 Claude 在 RISC-V 汇编级,对 123 个 OSS-Fuzz 开源库的 239 个入口点证明「任意小于 64MB 的输入不崩溃(含 ASan)」;证明约 1.8 亿行 Rocq,生成过程尝试约 10 亿行,并把 fuzz 测试改写成可机检规范。

打开原文 Anthropic:Formal verification of open-source software with Claude

背景与理念

Fuzz 只能抽样找崩,形式化验证能对整类输入给出机器可检查的保证。Anthropic 与 Theorem 合作,把「任意小于 64MB 输入不崩溃」写成规范,在 RISC-V 汇编语义上用 Claude 生成 Rocq 证明。

信任面被收窄到:RISC-V/Linux 语义、定理陈述,以及 Rocq checker。

具体做法

覆盖 123 个 OSS-Fuzz 开源库、239 个入口点;证明目标是任意小于 64MB 的输入在含 ASan 条件下不崩溃。典型一份证明约 60 万行 Rocq,中位二进制约 1.8 万条 RISC-V 指令;全部证明合计约 1.8 亿行,生成过程约尝试 10 亿行。

共享工作区复用已有证明,可少用约 17% token。Opus 5.5 在 36 个小任务上,相对 Opus 5 约少 40% token 却证出一半。

局限写得很清楚:单线程静态 RISC-V + musl、不是整库证明、ASan 也不能覆盖全部缺陷类。

关键数据/例子

123 库、239 入口点;约 1.8 亿行 Rocq 证明;生成尝试约 10 亿行;典型证明约 60 万行;中位二进制约 1.8 万条 RISC-V 指令。

过程中发现多年未暴露的 bug,例如约 20MB 特定布局下的反溢出、64MB+2GB 内存越界读,以及 libexpat 的 CVE-2026-56132 等。

共享工作区约省 17% token;Opus 5.5 相对 Opus 5 在 36 小任务上约少 40% token 证一半。

创新点

第一,把 fuzz「找几个崩」改写成「任意小于 64MB 输入不崩溃」的可机检规范。

第二,在汇编级而不是源码抽象层做证明,信任面更贴近真实执行语义。

第三,用共享证明工作区与更强模型压 token,让大规模库级证明更可操作。

可否复用

  1. 对安全关键入口,先定义可机检规范(输入上界、崩溃定义、检测器),再谈自动证明。
  2. 明确信任面:指令语义、定理陈述、证明检查器,不要把「模型生成」当成信任根。
  3. 证明资产要可复用(共享工作区),否则库级规模会卡在 token 与人力上。
  4. 写清局限(线程模型、运行时、覆盖范围),避免把部分证明当成全库保证。

笔记会在输入时自动保存。