X @omarsar0 · elvis11/11 22:1480 分精选
Google DeepMind 用 AI Agent 为 Signal 代码完成形式化安全证明
omarsar0: Banger report from Google DeepMind.
推荐理由：我认为这是 Agent 做形式化验证的标杆案例：650 万行 Lean 证明、五人四周完成，值得关注 AI 安全工程化的人细读。
Google DeepMind 发布报告：团队用 Gemini 4 Carbon 驱动的 AI Agent，在未修改的 libsignal 代码上写出约 650 万行 Lean 证明，覆盖到编译后的机器码，验证 Signal 代码的关键安全属性。五人团队四周完成证明工作；作为对比，验证 seL4 微内核曾耗费二十人年。流程为人类与 Agent 共同编写安全规格、证明 Agent 写证明、Lean 逐条检查后才接受。重新引入两个旧 Signal 漏洞后，系统证明有漏洞版本不安全。