AI is a tool and using it well takes skill
TL;DR · AI 摘要
LLM是工具而非自动化，使用它们需要技能，如同其他工具一样需要人类的判断和反馈。
核心要点
- 使用LLM需要与使用其他工具相同的技能，包括判断、反馈和修正能力。
- LLM的不可预测性不否定其作为工具的属性，关键在于使用者的控制能力。
- 正确使用LLM需建立人机协作的反馈循环，而非被动接受输出。
结构提纲
按章节快速跳转。
思维导图
用一张图看清主题之间的关系。
查看大纲文本（无障碍 / 无 JS 友好）
- LLM作为工具
- 工具属性
- 需要人类技能
- 反馈循环
- 与自动化区别
- 编译器类比
- 电子表格类比
- 使用挑战
- 不可预测性
- 误用风险
金句 / Highlights
值得收藏与分享的关键句。
工具可以放大判断力，无论是好是坏。它们的有用性取决于操作者指导、解释反馈、识别错误和修正的能力。
一个程序员可以要求LLM解释陌生代码，挑战解释，检查源代码，测试提议的更改，拒绝并完善请求。
将LLM归类为自动化而非工具的论点，忽视了其与编译器、电子表格等工具在使用方式上的相似性。
AI 是一种工具。善用它需要技能。 - yyhh.org
AI 是一种工具。善用它需要技能。
/.post-info
在 2026 年 10 月 11 日的《"AI" 不是一种工具》一文中，Rich Hickey 认为大型语言模型（LLM）属于自动化而非工具，因为它们无法被掌控。我同意将工作外包可能会让我们失去学习的机会。但他的结论并不成立。即使按照他的定义，LLM 也可以是人类能够掌控的工具。而善用它需要技能，正如使用其他工具一样。
拿起锯子并不保证能锯出笔直的切口。握着凿子并不意味着你就是雕塑家。工具既可能放大糟糕的判断，也可能放大良好的判断。它们的实用性取决于操作者能否引导它们、解读反馈、识别错误并进行修正。这些要求对 LLM 同样适用。
我有位同事曾说："AI 是一面镜子。" 我认为这个观点很有洞察力：它反映出你自身的特质，包括你带入其中的好奇心、判断力和习惯。你提出的问题以及你对回答所设定的标准都至关重要。
LLM 的不可预测性确实是一个重要的限制。但可预测性、可靠性、简洁性和功能边界是我们评估工具的标准，而不是成为工具类别的前提条件。一个工具并不会因为难以控制或容易误用就不再是工具。
Hickey 对工具与自动化的区分也制造了一个错误的划分。自动化可以是工具的一个特性。编译器在程序员没有持续指导每个操作的情况下完成大量工作。电子表格在没有人手动执行每个计算时自动重新计算结果。我们仍然通过指定输入、检查结果并决定下一步行动来掌控这些系统。当翻译代码或计算数字时自动执行不会让工具失去工具属性，为什么生成文本时自动执行就会让工具失去属性？
声称 LLM 的使用缺乏意图、反馈、方向和专业知识尤其难以辩护。程序员可以让 LLM 解释陌生的代码，挑战该解释，检查源代码，测试建议的修改，拒绝它，并完善请求。这是一个由人类为实现目标主导的反馈循环。做好这一点需要知道该问什么问题、哪些证据重要以及何时答案是错误的。专业知识可以让工具更加实用。
Hickey 对阅读的担忧在特定用途中是合理的：用摘要代替阅读论文可能会牺牲阅读所教授的许多内容。但人们也可以阅读论文并使用 LLM 质疑自己的解读、探索反对意见或识别需要更仔细检查的内容。避免智力劳动的可能性并不意味着每次使用都会避免它。相关的问题是人们实际上做了什么。
最让我失望的是对人工智能行业拟人化词汇的依赖："失控"、"突破限制"、"合谋"。重复这些表达方式会让人接受将这些系统描述为独立实体的框架。当软件被赋予执行重大操作的权限时，可能会产生意外输出、无法遵循指令或造成伤害。这些都是真正的工程问题。称其为"合谋"则暗示了人类动机，但并未证明任何动机的存在。
我并不声称大型语言模型（LLM）总是能完全按照人类的指示行事。它显然可能失败。但无法完美遵从指令并不意味着它就不再是工具，正如成功使用工具也并不能证明操作者已经放弃了判断。
关键区别在于：熟练地使用工具与在缺乏足够理解或监督的情况下委托工作。这一区别适用于AI领域，它为我们提供了比简单宣称某一类软件不能成为工具更实用的视角。
/.entry-content
#### 相关文章：
- AI编程已抹去静态类型语言所谓的优势
- Datalevin 1.0.0发布：一个用于应用程序状态和代理记忆的数据库
- 生产环境使用SQLite？复杂查询可能并不适合
- 通过自适应异步事务实现高吞吐量和低延迟
- 与三元组存储系统争夺JOB市场
Shariff Button BEGIN
Shariff Button END