推出 AlphaProof Code:在深度验证复杂软件方面取得突破

2026-11-13 · Google DeepMind

推出 AlphaProof Code:在深度验证复杂软件方面取得突破

Google DeepMind 宣布在软件安全领域取得了一项长期被视为重大挑战的里程碑式突破:研究人员成功引导 AI 智能体,对 Signal 协议(保护 Signal 和 Google Messages 等应用中数十亿私人对话的技术)底层实际代码的关键安全属性进行了数学证明。

这一突破性发现是通过 AlphaProof Code 实现的。这是一个全新的智能体框架,以前所未有的深度将人类专业知识与 AI 智能体相结合进行形式化验证。形式化验证即通过数学证明代码运行无误,是最高级别的安全保证,但通常极其困难且耗费大量人力。

如何验证 Signal 协议

AlphaProof Code 是一个多大型语言模型智能体框架,它像研究团队一样划分形式化验证的工作:人类专家与 AI 合作决定要证明什么,然后由一组 AI 智能体执行证明。

  • 制定规范:研究人员与多个模型合作,将 Signal 的安全目标转化为形式化的数学规范,并由人类专家逐一审查。
  • 生成证明:由 Gemini Carbon 驱动的智能体负责执行证明,生成了超过 600 万行 Lean 代码。Lean 是一种用于数学证明代码准确性的计算机语言。
  • 审计与人工审查:智能体对证明进行审计,并标出需要人类再次审查的区域。这部分仅占代码库的 1%,极大地节省了时间。由于 Lean 会自动检查其余部分,专家可以将精力集中在最需要人类判断的地方。

突破的意义与复杂性

加密协议是几乎所有数字通信(从网上银行到网页浏览)的基础,一个漏洞就可能同时暴露数百万人。过去,专家们通常在设计层面进行协议验证,而 AlphaProof Code 的智能体走得更远。

它们证明了编译后的代码在设备上运行时,确实满足关键的安全属性(例如,在设备被暂时入侵前后,消息仍受保护)。现实世界中的漏洞往往隐藏在设计与实现之间的差距中,弥合这一差距使得证明过程变得极其复杂。

尽管复杂性极高,但整个验证过程仅耗时四周,而历史上这类任务通常需要专家团队花费数年时间。

验证系统准确性

为了确认 AlphaProof Code 能够区分正确代码和有缺陷的代码,研究人员将两个真实存在且此前已修复的漏洞重新引入到 Signal 代码的隔离版本中。在这两种情况下,系统都生成了机器检查证明,证实该有缺陷的版本是不安全的。

Signal 的反馈与未来展望

Signal 首席技术官 Ehren Kret 表示,以往的形式化验证只能关注较小范围的代码,而这种新方法实现了显著的扩展。利用 AI 智能体将实时代码自动转化为有效的 Lean 定理是一项重大突破。随着 AI 驱动的安全威胁不断增长,对核心 Signal 协议进行严格验证,让他们对代码实现隐私保证更有信心。

实现这一长期挑战表明,AI 可以为企业、政府和关键基础设施带来顶级的安全保证,帮助防御智能体驱动的网络威胁。验证 Signal 的核心加密技术为保障其他重要系统(从医疗设备固件到电网软件)的安全奠定了基础。

扩展这些技术需要持续的研究。结合 CodeMender 等自动化防御智能体,形式化验证可以帮助对抗现代网络威胁的速度和规模,创建具有数学证明其保护机制有效的软件。目前,DeepMind 已开源其形式化验证工件供社区使用。

原文链接