Bliki: LLM Voice

LLM 文本的诡异感

2026年10月29日

Martin Fowler

有时当我阅读一篇文章时，会逐渐产生一种感觉，仿佛自己在阅读LLM生成的内容。虽然我无法确切说明原因，但有一些常见的迹象（不是破折号的使用，而是那些承载意义的修辞手法）。当我意识到这一点时，继续阅读的欲望会逐渐减弱，有时甚至会感到反感。

目前市面上有一些工具声称能够区分LLM生成的文本和传统人类写作的内容。我对这些工具持怀疑态度，一方面是因为对其准确性存疑，另一方面是因为这偏离了问题的核心。对LLM文本的反应本质上是人类的本能，那种感觉我们正处于文本的诡异谷中。等到我想要使用工具来判断自己正在阅读的内容时，往往已经太迟了，即使工具自信地告诉我其中没有LLM的痕迹。

我也对自己的识别能力持怀疑态度。语言会随着时间演变，因此一个常见的年龄标志就是抱怨年轻人的语言风格。我倾向于对那些谈论“采用新的销售方式”或“对新闻进行尖锐总结”的文本感到不适。但我也曾听到人类用这些表达方式，这更像是代际差异，而非碳基生命与硅基生命之间的区别。（作为一名移居美国的英国人，我甚至不想开始讨论美式英语，我相信自己很快就会习惯这些表达。）

目前我建议作者对LLM文本保持高度警惕。特别是我强烈建议作者不要陷入让LLM撰写初稿的陷阱。即使经过人类编辑，也很难以彻底消除LLM文本的痕迹，从而引发诡异谷效应。1 即使接受改写建议也存在风险。我听说过有人使用LLM来制定大纲和结构，这可能可以接受，但仅限于大纲阶段。2 作者应自行撰写正文内容。

1：虽然困难，但并非不可能。我曾遇到过一个案例，我知道初稿完全由LLM撰写，但当我阅读最终版本时，却未察觉到任何LLM文本的痕迹。不过，它确实需要知名期刊的专业编辑进行润色。

2：在本站的政策中，任何使用AI辅助写作的人都应在致谢部分声明其使用方式。这既是出于透明度的考虑，也为了让读者了解如何有效利用AI。就我个人而言，我不使用AI生成文本，也不用于结构设计。我唯一使用AI写作的方式是作为搜索工具（但我会通过查阅原始资料来验证所有信息）。

在LLM时代，写作的重要性更加凸显。我习惯于先在脑海中默念要写的内容，然后将其记录下来（接着再修改刚刚写下的内容）。这一建议对任何希望通过写作定期与他人沟通的人来说尤为重要。与许多技能一样，成为一名优秀作家需要大量练习。这是一项值得投入时间掌握的技能，但屈从于LLM将阻碍任何进步。

随着时间推移，LLMs可能会变得如此优秀，以至于我们无法分辨其与人类的差异。从许多方面来看，这反而更加令人担忧。与大多数作者一样，我发现写作几乎是思考的必备工具。很多时候，只有通过将想法写下来，我才能真正理清对某个主题的思考。我经常在开始写一篇文章时意识到自己并不真正理解某个概念，但与文字的反复推敲过程迫使我去克服困惑。当更多人将写作任务委托给LLMs时，他们也将思考和理解的能力一并交给了LLMs。我不愿这样做，那样写作的乐趣又在哪里呢？

尽管避免使用LLM-Voice是一般原则，但这并非绝对规则。一个重要的例外是Jim Highsmith（他为本站撰稿）。他发现借助LLM写作对他克服帕金森病的困扰至关重要。为了继续汲取这位老朋友的智慧，我愿意接受LLM-Voice带来的不便。

翻译场景则更为尴尬。我的许多同事并不擅长英语，这可能是他们的第二或第四语言。一些人发现LLM翻译已成为他们与我们这些对马拉地语了解甚少的人沟通的重要工具。但我也更倾向于接受人类笨拙但真实的文字，而非LLM那流畅却毫无灵魂的表达。

对于母语为英语的人来说，某些场景下让LLM撰写文字也是合理的。例如当我需要给官方写一封标准信函，或准备一份我怀疑无人会阅读的报告时3。也许未来大部分文档只会被LLMs阅读，它们不会像我一样产生"诡异谷"般的担忧。但如果我要与人类沟通，我的人性必须通过文字散发出来（至少要渗透出来）。

3：Michael Nygard评论道："在那种情况下，你其实并不是在试图将一个人的想法传达给其他人。你是在与一个流程而非人类沟通。人类可能会打开信封，但那个人只是作为赛博格有机体中的一个组件在运作。"

注释

致谢

Alessio Ferri、Caer Sanders、Ian Cartwright、Jie Jessie Xia、Joshua Kerievsky、Michael Feathers、Michael Nygard、Scott Davies和Wei Zhang对本文的初稿提出了宝贵意见。

我在撰写本文时没有以任何方式使用AI或LLMs。