Fragments: September 1

碎片：九月一日

Martin Fowler

2026年9月1日

和许多读者一样，我对AI生成的文本持谨慎态度。Simon Wilison开发了一个用于识别LLM陈词滥调的工具——将文本或URL粘贴进去，它会标记出LLM中常见的各种模式。该工具参考了维基百科关于AI写作特征的页面。该页面指出：

人类在区分人类撰写和LLM生成的文本方面表现糟糕。尽管关于人类识别AI生成文本能力的研究仍有限，但2025年的一项研究显示，人类区分LLM文本和人类撰写文本的能力与随机猜测无异。另一项2025年针对德国论文的研究显示，人类对AI生成文本的识别率为57%，对人类撰写文本的识别率为64%。

不仅我本人对具有LLM风格的文本感到反感，我也在思考自己这种反应的准确性。我年纪足够大，见证过各种新出现的口头禅，过去总是归因于年轻人或机场商业书籍。（更不用说美式英语，我将很快习惯这些表达。）

他指出，所有这些都会破坏流程，因为“CI”持续失败，因此主张在代理推送之前进行验证。这时候我这个脾气暴躁的老头就要跳出来指出，持续集成一直就是这么运作的。当我完成一次修改后，首先会拉取代码（以获取自开始以来其他人提交的修改），然后本地构建并测试，如果一切正常，再推送代码并让CI服务器自行处理。CI服务器唯一应该失败的情况，是当我的机器与CI服务器之间存在某些奇怪的不匹配时。运行时间较长的测试不属于这个流程，而是部署流水线后续阶段（在CI之后）才会执行的测试。这些测试出现失败，意味着CI中缺少必要的测试。

（我在这里对这篇文章略显苛刻，其实我过去二十年大部分时间都可以用一整天的时间来纠正对持续集成的误导性描述。也许我只是想找一个借口，引导读者去阅读我们网站上关于如何将代码从笔记本电脑部署到生产环境的大量文章。）

Stack 的观点是正确的，我们应该质疑在代理参与的情况下，部署流水线应该如何运作。他也正确指出，涉及人类的CI依赖于他们自律地在推送至CI服务器前本地运行提交测试——而当我们使用代理时，可以（也应该）自动化这一过程。我对他所描述的环境了解程度也仅限于他文章中提到的内容，因此他可能面临一些我无法理解的复杂情况。但当我们思考如何设计流水线时，理解支撑持续交付的原则、理解这些实践的真实运作方式、理解它们为何存在，这些都是至关重要的。最重要的是，持续集成是一种实践，而不仅仅是CI服务器。是的，CI确实将两项工作混为一谈：执行验证和协调合并。但正是这一点至关重要：如果我们要保持主线的健康，验证必须成为合并过程中的必要组成部分。

最近 Noah Smith 发表了一篇文章，讲述他担心AI生成的超级病毒会摧毁人类。这是我听过几次的担忧，其严重性甚至超过了AI将我们变成金毛犬或回形针的担忧。Claus Wilke 是该领域的专家，他对这种担忧并不以为然。

生物系统的计算设计极其困难。那些毕生致力于这一领域研究的专家，常常会因为尝试的一切似乎都不奏效而撞得头破血流。2026年的博士生使用最先进的AI软件，可能需要数月甚至数年时间来设计简单的肽结合物，以抑制某种酶或拉下某种蛋白质，但他们的设计大多数都会失败，或者无法表达，或者具有毒性。然而在Smith虚构的世界里，一个没有接受过任何生物学专门训练的愤怒青少年却能解决比设计肽结合物复杂数千倍的问题。我们今天所处的位置与Smith故事中需要达到的现实之间，差距是巨大的。

似乎有几位才华横溢的学者是跨领域专家，涉及范围之广令人难以置信。或者，他们只是幽灵。

这些名字并不存在。Elena Vasquez和Marcus Chen作为火山专家、宇航员、惊悚小说主角、播客主持人和学术合著者，出现在数百份独立生成的AI生成文档中，但这些人物从未真实存在过。我们证明大型语言模型在生成虚构专家时，并非仅仅默认使用高概率的个人姓名，而是会产生关联的角色组合：成对或三人组的角色共现率远超随机概率，并且在独立生成的文档中保持一致。

latest fragments:

September 1

previous post:

August 24

All Fragments /think