The ‘Pain in the Ass’ Math That Could Save Vibe Coding From Itself

可能拯救“氛围编程”的“令人头疼的数学” | WIRED

Paresh Dave

商业

2026年10月29日 11:00 AM

可能拯救“氛围编程”的“令人头疼的数学”

一家名为&Truth的新创公司正加入自动化形式验证的竞赛，这一繁琐的过程使用数学来证明软件按预期工作。

照片插图：Jobanny Cabrera；Getty Images

保存此故事

斯坦福大学研究员孙楚月（Chuyue Sun）和她的计算机科学家同事们开发了一种AI工具，仅用不到半天时间、花费不到500美元就完成了一个工程项目的开发，而此前三位高技能专家手动完成相同工作却耗时五个月。孙楚月在最近的一篇论文中报告了时间和成本的显著减少，这是形式验证这一编码和数学领域早期成果之一，该领域正在逐渐引起关注。

几十年来，开发人员一直设想使用数学来证明他们的软件没有错误。这一过程漫长而繁琐，需要工程师编写关于软件目标的精确陈述，并将代码转换为可验证的公式。虽然公司已经运行复杂的测试来尽可能多地发现软件中的缺陷，但很少会为形式验证付费，因为形式验证可以发现更多异常行为。

现在，一波初创公司押注生成式AI将使形式软件验证既实用又不可或缺。其中就包括&Truth，孙楚月于8月加入该公司，该公司于周四正式发布。孙楚月的研究通过使用AI验证消息应用Signal中加密对话部分的代码，展示了这项技术的潜力。

&Truth首席科学官伊利亚·谢尔盖（Ilya Sergey）表示：“桥梁、建筑不会倒塌，因为人们在建造它们之前进行了数学计算。我们为什么不对代码做同样的事情？数学推理所需的技术早已存在，只是难以规模化。”

&Truth已从投资者那里筹集了7000万美元，目标是最终验证任何编程语言。竞争对手Harmonic由Robinhood首席执行官弗拉德·特涅夫（Vlad Tenev）联合创立，已获得2.95亿美元融资，本周宣布其专注于数学的AI代理Aristotle支持验证用C语言编写的软件和用Verilog设计的硬件。该公司正在与潜在用户（包括芯片制造商Tensordyne和Nvidia，其风险投资部门是该初创公司的投资者之一）评估这项技术。

就在上周，Anthropic和验证初创公司Theorem联合宣布，他们使用AI帮助发现开源软件中的错误，这些错误此前数万亿次测试均未能检测到。他们还推出了一款Claude附加功能，帮助其他开发人员进行验证。该项目的初始成本未予披露。

这项技术的巨大前景是实现一个软件运行更可靠、安全问题更少的未来。但AI能否将形式验证从NASA和Apple等组织的最关键系统扩展到广泛应用，仍是一个悬而未决的问题。

该技术仍处于原型阶段。尽管需求旺盛，但尚不清楚客户愿意支付多少费用，以及他们更倾向于如何采用这项技术。形式验证依赖于对计算机和人类如何与软件交互的假设，一些专家对它能否捕捉到由用户错误和硬件故障引起的错误持怀疑态度。

Will Wilson，这家名为Antithesis的漏洞猎人AI软件初创公司创始人，将形式验证称为“数学极客的陷阱”。Antithesis曾投入数百万美元对其部分网络安全防御措施进行形式验证，Wilson形容这个过程是“令人痛苦的折磨”。然而，这家初创公司仍使用自己的工具发现了更多错误，Antithesis也曾在一些客户已进行形式验证的软件中发现了漏洞。Wilson表示：“形式验证可以提供一定保障，但只有全面的彻底测试才能证明你的保障是真实的。”

正如以太坊加密货币的创造者、工程师维塔利克·巴特林（Vitalik Buterin）今年早些时候在一篇博客文章中所说，“形式验证并非万能药”。但他和其他支持这一方法的人士仍认为，它将是防范AI系统发动网络攻击并造成混乱的重要防线。

核心安全

根据公司披露的信息，波音飞机、亚马逊服务器以及超过25亿台活跃的苹果设备中，至少包含部分经过形式验证的软件。这些代码通常与安全相关，若被利用，其中的漏洞可能导致严重危害。

亚马逊网络服务（AWS）的杰出科学家兼副总裁Byron Cook表示，形式验证缓解了客户对云安全的担忧，并通过早期消除重大漏洞帮助内部团队加快了开发进度。

但几家中型科技公司向《WIRED》透露，他们通常只验证了产品的一个关键功能，甚至有些公司根本没有进行验证。他们指出，缺乏验证工程师、成本高于潜在风险，以及最重要的担忧——代码需要数周时间进行形式验证，可能会减缓创新速度。

今年早些时候，苹果安全团队表示，形式验证在其加密库“corecrypto”中发现的一些问题，用其他方法根本无法发现。但该公司补充称，在向corecrypto添加新代码时必须保持“谨慎”，以确保能够跟上代码审查的进度。

两家未对任何代码进行形式验证的大型公司的网络安全高管表示，他们不确定自动化是否会使其变得值得。但这些未获授权公开发言的高管表示，他们可以想象为支付大额费用给主要AI实验室，以获取“经过验证”的AI生成代码。

许多应用程序的基础——开源软件项目的开发者，正在越来越多地尝试使用AI辅助验证。非营利组织Beneficial AI基金会今年利用Anthropic的资助，验证了与斯坦福大学Sun相同的加密代码。库曲线库curve25519-dalek的维护者Michael Rosenberg希望为持续的验证工作出现可持续的资金支持。他表示：“我目前对如何实现这一点毫无头绪，我们当然也不应该依赖AI公司的善意。”

一些希望扩展验证功能的初创公司仍在犹豫，不确定是直接向客户部署工具，还是通过Anthropic等中间方进行。他们的总体计划是利用AI自动化大量工作，这些工作涉及定义程序应如何运行。例如，数据表的规范可能要求排序前后包含相同项目，只是顺序不同。进一步的自动化工作（可能不涉及AI）将把代码转换为Lean、Rocq和Isabelle等数学工具可使用的格式，以验证代码是否按预期运行。

形式验证领域最近的新进入者是Madan Musuvathi，他在微软研究院工作20多年后创立了初创公司Truidic。在Hugging Face遭遇OpenAI黑客攻击等事件后，他感到迫切需要将研究成果商业化。“攻击者手中的AI可能极其强大，”Musuvathi表示，但验证可以“让AI在任何地方对所有人安全可靠。”

长期提供传统验证服务的少数公司之一Proofcraft表示，人们对这一过程日益增长的兴趣正在转化为潜在客户的大量咨询。公司CEO June Andronick和首席科学家Gerwin Klein表示，需求增长速度远超他们和竞争对手能够提供的能力。

但两者都担心AI生成的规范可能引发对结果的“不正当信任”。验证人员也渴望保持工作带来的乐趣。Klein称这项工作“非常上瘾，就像拼图游戏一样。”如果一切顺利，他将比以往任何时候都要解决更多问题。