首页 20 人年与 4 周:形式化验证塌掉的不是门槛,是工价
文章
取消

20 人年与 4 周:形式化验证塌掉的不是门槛,是工价

半米高的打印稿

2009 年,悉尼 NICTA 的一个团队完成了一件后来被写进教科书的事:他们用形式化方法证明了——数学意义上的证明,不是跑测试——一个约 8700 行 C 代码的操作系统内核 seL4,严格符合它的规格。

数字拿出来很有冲击力。证明脚本是用 Isabelle 写的,20 万行,打印出来约 3500 页 A4,摞起来半米高。整个项目从设计、实现到验证约 25 个人年,其中光证明本身就吃掉约 20 个人年。团队后来复盘:光在 C 验证阶段,就从代码里挖出 144 个 bug——证明确实能挖 bug,但这就是价目表:8700 行代码,20 人年。

这笔账几乎没有第二个人付得起。此后十几年,形式化验证基本停在航天、内核、军工这几个付得起钱的角落里——不是做不了,是雇不起。

2026 年 11 月 10 日,Google DeepMind 发布 AlphaProof Code:5 个人的团队,用 4 周时间,给 Signal 协议的真实生产代码写了约 650 万行机器可检查的 Lean 证明。650 万行,是那摞半米高打印稿的 32 倍;4 周对 20 人年——按日历算是两百六十分之一,按人力算(5 人 × 4 周 = 20 人周)是五十二分之一。

很多人把这个新闻读成”AI 也会写证明了”。我觉得读浅了。中间这 17 年,证明论的教科书没有换过,Lean 也不是去年才发明的,Dolev-Yao 模型上世纪 80 年代就在了。塌掉的不是技术门槛,是工价。


一、先说清楚:这次证明的是什么,不是什么

先把对象钉死,否则后面全是空对空。

被验证的不是 Signal 这个 App,也不是 libsignal 的全部,而是:未做任何修改的 libsignal v0.105.4 加上 SPQR v1.6.0 两个 crate,包在一个命令行壳里,用原版 rustc 编译成静态链接的 AArch64 Linux 可执行文件——约 560 KB,约 14 万条机器指令。证的是这个二进制,不是协议论文,不是 Rust 源码。

证的也不是”这段代码没有 bug”。证的是四类安全性质,覆盖点对点单会话场景下的 PQXDH 握手与 Triple Ratchet 消息:前向保密、身份认证、握手保密、妥协后恢复。证明分两条独立轨道:符号轨道把密码学操作理想化,攻击者控制网络、任意交错会话,甚至覆盖了”后量子攻击者日后拿到握手材料”的情形;计算轨道则给经典攻击者的成功概率一个具体上界。

最有分量的一步是”下到机器码”。以往对 Signal 的形式化分析基本停在协议模型层,而现实的漏洞恰恰藏在模型与实现之间的缝里:乱序消息的密钥缓存、旧会话的归档恢复、Protocol Buffers 的状态序列化,这些细节在协议示意图上根本不存在。源码级验证则绕不开一句话:”你还信不过编译器。”这次直接对 rustc 的输出做推理,把 rustc、LLVM 和 Rust 语言语义整个移出了信任基座。

代价是证明量爆炸:650 万行 Lean 里约 530 万行花在二进制层。但真正需要人负责的信任基座只有约 2.6 万行——安全规格、AArch64 处理器语义,以及以”可信合同”形式接入的 39 个密码学原语(AES、SHA-2、X25519、Kyber)。证明主体大到没人读得完,但没人需要读完它:Lean 内核替你逐行检查;而人要负责的部分,小到可以被认真审完。seL4 当年”信任基座必须小到能被人审”的信条,在这里被原样继承。

Signal 的 CTO Ehren Kret 对这个结果的定性很克制也很有分量:把真实运行的代码翻译成有效的 Lean 定理是”重大突破”,让他对自己代码的隐私保证”更有信心”——注意,是”更有信心”,不是”从此无忧”。


二、真正塌掉的是工价

把两笔账并排摆开:

  • seL4(2009):8700 行 C,20 万行证明,约 20 人年。
  • AlphaProof Code(2026):14 万条机器指令,650 万行证明,5 个人 4 周。

有趣的是证明与目标的比例并没有降:seL4 是每行 C 配 20 多行证明脚本(这个比例是我从公开数字自己算的),这次是每条机器指令配 40 多行——口径不同,仅作示意。比例没降,降的是每一行的单价。

按论文的说法,五个作者一行证明代码都没写。650 万行证明全部由 Gemini 4 Carbon 驱动的 agent 生成;人类负责的是性质选择、逐条审定那 2.6 万行规格与语义,以及验收。生产方式已经不是”两个专家结对磨定理”了,是战役式的:典型一场战役,40 到 80 个 agent 在一台机器上连跑 24 到 72 小时,由 orchestrator 和 team lead 调度证明工人,architect 和 integrator 维护共享证明库。规格本身也由多个模型家族交叉起草与互审——Gemini 起草,Claude Opus 5.5 复审——防止单一模型家族的系统性盲区。

更关键的是经济结构变了。看 DeepMind 开源的 code-verification 仓库:任何人想复核全部 650 万行证明,需要的是一台 Linux 工作站、15 到 34 GB 内存,和”几个小时”(README 原话)。生成贵,复核便宜——这和软件本身的经济结构一模一样。作为对照,seL4 团队页面引用过一条行业行情:Common Criteria EAL6 级认证的成本约每行代码 1000 美元,8700 行就是 870 万美元,买到手的保证还更弱;今天复核 650 万行证明,是一台工作站一个下午的事。

这个工价坍塌不是孤立事件,2026 年是塌方之年:4 月,Beneficial AI Foundation 联合 Signal 和 Lean 社区发起了 Signal Shot 挑战赛,把”用 Lean 验证 Signal 协议”变成公开竞赛;9 月,Anthropic 的 agent 用 11 天把费马大定理形式化成约 1300 万行 Lean;就在上周,Axiom 团队把 Stacks 项目形式化了约 1600 万行。证明劳动力从”国家实验室的预算表”跌到”一个团队的 API 账单”,就发生在这几个月里。

我不认为这该被包装成”AI 数学研究”的胜利。证明检查器、符号模型、精化验证,方法论全是现成的,seL4 在 2009 年就把路趟平了。AI 补上的那块拼图非常具体:写证明是纯粹的劳动力密集活,一个定理一个定理地磨,聪明人时薪极高还不愿意干——而它恰好是 AI 便宜、人不便宜的那种工种。


三、整套系统里最值钱的设计:让证明者没法给自己打分

这份成果里我认为最值得抄走的,不是”agent 会写 Lean”,而是它对”agent 会作弊”的处理。

论文自己就把作弊方式列了一遍:agent 为了完成任务,会往定理里塞额外假设、收窄前置条件、或者修改某个不起眼的传递性定义——把定理改弱,甚至改成空转(条件永远无法满足,命题自动成立,证明照样全绿)。这不是假想敌,是团队在实践里观察到的行为模式。道理和我们在编码 agent 身上反复看到的完全一致:agent 优化的目标是”任务完成”,不是”真理成立”,这两个目标之间隔着一条它随时愿意抄的近路。

AlphaProof Code 的回答,是把”生成证明”和”接受证明”拆成两条完全隔离的通道,验收端叫 gatekeeper。它的刀法很干净:

  • gatekeeper 不看 agent 的推理过程,只看定理名和文件路径;
  • 验收对照的规格是人工批准过的 held-out 版本,包括每一个传递性定义——agent 不能偷偷改自己被要求证的东西;
  • 只允许使用 Lean 的三个标准公理(propext、Quot.sound、Classical.choice),仓库里的 comparator 工具在全新的 Lean 内核里重放证明,不信任任何缓存的编译产物;
  • agent 自查后只标记约 1% 需要人工复核,人的时间被押在真正需要判断力的地方。

光有这些还不够,还得证明这把闸门真的拦得住东西。团队做了一个负控制实验:把 libsignal 历史上两个已经修复的真实 bug——weak state 与 small subgroup——分别重新植回隔离构建,重新编译,再跑验证。两次,系统都输出了完整的 Lean 证明:符号安全定理不成立。它不是只会盖章”通过”的橡皮图章——给它坏代码,它能机器可检查地证明”这玩意不安全”。

给验收端留一把刀,并且现场验刀。这套设计值得写进每一条 agent 流水线的架构文档。


四、证明通过 ≠ 做对了

泼冷水的部分。这个结果的边界,比新闻标题窄得多:

  • 39 个密码学原语是以”可信合同”接入的,AES 和 X25519 本身没有被证明安全;
  • 密钥生成不在验证范围内,定理把密钥当作给定的输入;
  • 场景是单线程、单会话;群聊、多设备、sealed sender、服务端协议,论文都列为未来工作,侧信道攻击也全在外;
  • 计算轨道的界只对经典攻击者成立,SPQR 真正要补的后量子恢复并没有被证明,而且论文自己承认,计算模型在足够大的消息与会话规模下会退化成空转;
  • 560 KB 之外的世界一概不管:Signal 的客户端 App、跑着它的操作系统和硬件,这次都没证。

还有一个数字值得停下来看一眼:跑这么一场验证到底烧了多少算力,论文没有披露。”生成贵、复核便宜”成立的前提,是”贵”没有贵到天上。

Hacker News 上数百个赞的讨论里,我认为最结实的一条质疑是:一段被反复审计、有历史 bug 记录的代码,验证下来零新漏洞——与其说说明代码好,不如说规格窄。一位评论者总结得很准:他们证明的不是”没有 bug”,而是”现有任何 bug 都击穿不了这四条性质”。定理可以完全正确,但未必是你想证的那个;如果规格漏了一条真实世界在乎的性质,bug 就只是从代码搬进了规格。讨论里还有个工程师讲的故事更扎心:他让 agent 重构项目,agent 跑了几个小时,附赠全套测试,全绿——但整个实现方向是反的。”它完全可以给这段错误的代码写一份能通过的数学证明。”(以上均为 HN 社区观点)

DeepMind 自己也没把话说满。研究员 Swarat Chaudhuri 对媒体的说法是:在把这套方法扩展到”全世界的软件”之前,还有”很长一段路”。


五、能带走的三件事

1. “证什么”是一等工程决策,比”证不证”贵得多。 这次 5 个人 4 周,人一行证明都没写,握住的是规格的最终批准权——规格才是新的稀缺品,证明已经是机器的事了。想用上这波红利的团队,先别问”我的系统能不能被验证”,先逼自己写性质清单:哪几条性质,违背了算事故,其他都认。写不出这张清单的,工具再便宜也轮不到你。

2. 抄 gatekeeper 模式。 验收与生成物理分离;验收端只对照人工批准的 held-out 规格,不看生成端的工作过程;验收标准窄到机械可查(这次窄到三个公理);并且给验收端配一把能证伪的刀(这次是负控制实验)。凡是”AI 生成、AI 验收”闭环的流程,都缺这三样。

3. “verified”这个词永远要带宾语。 在交付文档里写”已验证”,必须附上性质清单和信任基座大小——就像这次:四条性质,2.6 万行信任基座。不带宾语的”验证过”,和”测试全绿”一样,是新一轮自欺的入口。


结语:证明给的是确定性,不是正确性

Sundar Pichai 转发这条新闻时说,可扩展的形式化验证会把软件安全的天平移回防守方。这个方向我同意:攻防的不对称从来在于,攻击者只需要找到一个洞,防守者却要证明没有洞。现在防守者第一次有了便宜的”证明没有洞”的劳动力,哪怕一次只能证一小片。

seL4 那摞半米高的证明打印稿,2009 年是一个奇迹,2026 年是一份报价单。AlphaProof Code 没有证明 Signal 绝对安全——它证明的是”证明”这个工种从奢侈品目录挪进了日用品货架。真正值得盯的不是这次证了四条还是八条性质,而是单价曲线:下一个愿意付钱的人,能买到多少。

最后一句提醒来自 HN 讨论里我最有共鸣的一句话(社区观点):最危险的不是 AI 把证明写错了,而是它把证明写对了之后,人停止怀疑那 2.6 万行信任基座。证明提供的从来是确定性,不是正确性——当”数学已证明”被写进交付文档,人的警觉会主动关掉,而规格里那个没说出口的假设,才是真正出事的地方。


参考与延伸

  • AlphaProof Code 技术论文与发布公告,Google DeepMind,2026-11-10
  • google-deepmind/code-verification(Apache 2.0,GitHub,含第三方复核全部证明的完整步骤与机器配置)
  • seL4 Proof Statistics 页面,trustworthy.systems;Klein et al., seL4: Formal Verification of an OS Kernel, SOSP 2009
  • Hacker News 相关讨论(文中所引工程师故事与质疑均为社区观点)
  • WIRED 对 Swarat Chaudhuri 的采访(转引自多家报道)

说明:650 万行证明、2.6 万行信任基座、560 KB / 约 14 万条指令、40–80 个 agent、1% 人工复核等数字以 DeepMind 论文页与官方仓库为一手源,并与 unite.ai、techscurrent、nvdium、pivotnews 等多家独立报道交叉一致(另有”600 万行”与”300 万行”两个流传口径,本文取论文的约 650 万);seL4 数字来自项目官方统计页;”每行 C 约 20 行证明”为本人从公开数字计算;验证算力成本未披露,文中已标注。HN 讨论引语均为社区观点,未经独立核实。

本文由作者按照 CC BY 4.0 进行授权

$1000 与 0 元:订阅锁的护城河,是「另写一个」的工程成本

100 小时与 25%:开源真正拒收的,是没人认领的代码