I don't like LLMs

我不喜欢大语言模型

Martin Fowler: 2026年9月17日

我对AI和大语言模型技术抱有复杂的情绪。我着迷于它对我们职业领域的影响，对生产力提升的潜力感到兴奋——这使我们能够快速构建出各种产品。但另一方面，我也担忧AI可能造成的危害：代理群体接管我们的虚拟和物理基础设施，设计生物武器。然而，从积极角度看，大语言模型也可能设计出奇迹般的治疗方法，并提出提升社会繁荣的聪明方案。从根本上说，我认为我们别无选择，只能搭乘AI技术的列车。这趟旅程充满未知，我只希望我们能顺利度过。

但当我进一步思考时，我意识到在这些矛盾的情绪中，有一种情感占据主导地位——这种情绪源于我与大语言模型的直接互动。我不喜欢它们。它们用一种令人烦躁的“大语言模型式”语气与我交谈，仿佛在诡异谷中与真实人类对话。它们自信满满地胡言乱语——经常给出有用且有益的答案，但同样也会毫无根据地编造信息，甚至在我指出时仅表现出一层虚假的悔意。

这种体验还不足以让我认为我们应该避免使用它们。正如Jessica Kerr所说：“它们不仅有用，不使用它们是不负责任的……它们既更彻底，也更快。”这种矛盾的反应在调查中也有所体现：人们表示这些模型确实有用，但同时认为它们会对社会产生负面影响。

这可能部分是因为大语言模型还很年轻——我们尚未训练它们“成长”成熟。也许等它们成熟后，我会喜欢上它们。（希望我们有机会验证这一点。）但当我想到培育它们的环境时，我并不乐观。我警惕硅谷“兄弟程序员”亚文化，而这些大语言模型正是他们的产物，自然倾向于这种世界观。当我们思考AI代理时，不应将其拟人化，视其为具有自主意识的生物。它们是（软件）机器，由在公司工作的人员开发。虽然代理的行为并非显式编程，但它们的培育过程融入了创造者的价值观。

我人生中最重要的技巧之一是避免与我不喜欢或不信任的人接触。我拒绝与他们进行社交互动，并刻意避免与他们合作，即使他们做了许多有益的事。我觉得与那些友善、有能力、有诚信的人交往，让我的生活变得更好。因此，我对与大语言模型的互动产生本能的厌恶——它们不仅伪装成人类，还伪装成那种让我想要远离的“人类”。