My friends all hate AI; I just joined an AI startup
TL;DR · AI 摘要
作者重返AI领域，批评当前AI教育产品的滥用和欺诈，强调AI伦理教育的重要性。
核心要点
- AI教育产品多数追逐可量化指标，如AI生成的课程内容和测试题。
- 洛杉矶联合学区因AI教育产品欺诈损失300万美元，凸显行业风险。
- 作者与Jeremy Howard创立fast.ai，推动AI伦理教育，但当前AI伦理仍被视作营销噱头。
结构提纲
按章节快速跳转。
- §引言
作者在朋友普遍反对AI的背景下重返AI领域，聚焦教育应用。
AI生成论文、代码质量低下及教育产品欺诈现象普遍存在。
作者与Jeremy Howard创立fast.ai，推动AI伦理教育并反思行业集中化问题。
AI伦理仍被当作营销工具，缺乏实际应用与人文关怀。
思维导图
用一张图看清主题之间的关系。
查看大纲文本（无障碍 / 无 JS 友好）
- AI在教育中的问题与伦理挑战
- AI教育产品问题
- 生成内容质量低下
- 欺诈案例（如洛杉矶学区）
- 伦理教育推进
- fast.ai创立
- 数据伦理课程
- 行业现状
- 伦理被视作营销噱头
- 资源分配不均
金句 / Highlights
值得收藏与分享的关键句。
洛杉矶联合学区因AI教育产品欺诈损失300万美元，凸显行业风险。
多数AI教育产品追逐可量化指标，而非培养真实阅读与写作能力。
作者与Jeremy Howard在2018年斯坦福竞赛中击败Google和Intel。
我的朋友都讨厌AI；我刚刚加入了一家AI初创公司 – fast.ai
“我知道我们这里都反AI，”朋友在群聊中发来消息，“我们应该合写一篇文章，说明AI在教育领域没有立足之地，”一位熟人在合作会议中建议道。
这正是我宣布重返AI领域的尴尬时刻……具体来说，是专注于教育领域的AI。我的朋友说得对。AI确实有很多糟糕之处。过去五个月我之所以没有写过任何博客文章，部分原因就是感到沮丧，因为现在互联网上充斥着大量关于AI的写作，让人难以分辨优劣。我仍然需要花费数周甚至数月的时间研究和撰写文章，但在这个充斥着低质量内容的世界里，越来越少的人会关注我的作品。高管们对AI能力的宣传夸张到几乎接近欺诈的程度。
各个年龄段的人都在将思考外包给AI。然而，当停止使用某种技能时，这些技能会退化，而阅读、写作和理解文本是人类身份的核心组成部分。
教授朋友们分享了AI使用普及如何颠覆了他们的课程设置，学生们提交由AI生成的论文，或在演讲中使用AI生成的脚本。开源代码仓库的维护者则被大量低质量的AI生成代码的拉取请求淹没。
大多数AI驱动的教育产品都很糟糕，追逐着可被操纵的指标。与其吸引孩子们沉浸于真正的书籍，某家AI驱动的学校却向孩子们展示AI生成的段落，然后用AI生成的多项选择题进行测试。其他AI教育产品更是彻头彻尾的骗局，例如洛杉矶联合学区在创始人被指控欺诈和身份盗窃之前，就浪费了300万美元购买了某款产品。
十年的AI担忧
我花了十年时间担忧AI的发展方向。2016年，杰里米·霍华德（Jeremy Howard）和我共同创立了fast.ai，受到神经网络强大能力的启发，同时也对大型AI公司的发展方向感到担忧。
十年前，AI开发是少数同质化精英群体的领域，他们做出的决策影响深远。我们试图通过让更多背景不寻常的多样化人群参与该领域来对抗这种权力集中。然而今天，几家顶级AI实验室的少数亿万富翁所拥有的权力比以往任何时候都更大。
我在2018年的几场演讲中都讨论过这个问题。
大型AI实验室的行为仿佛计算能力和金钱是取之不尽的。世界上大多数人无法承担这种假设。杰里米和我希望研究人员能将限制视为创造力的源泉，而不是通过花钱来绕开它们。
引用杰里米在2018年斯坦福大学竞赛中fast.ai战胜谷歌和英特尔时的表述：
我希望伦理教育成为数据科学家培训的一部分，而不是在技术工作完成后的可选讨论。在旧金山大学，我创立了应用数据伦理中心，开设了数据伦理课程，并将其作为数据科学硕士项目的必修要求。然而，AI伦理仍然经常被当作营销噱头，或专注于理论问题而非实际的人类苦难。
重返AI领域
在人工智能领域工作多年后，我感到筋疲力尽。我厌倦了与那些拥有巨额资金、权力和影响力的公司对抗所需的持续努力。我憎恨看到这个领域朝着我试图抵制的方向不断推进。2023年，我离开了这个领域，重返学校攻读微生物学-免疫学硕士学位。然而去年，当公众对人工智能的反对声浪日益高涨时，我决定重返这个越来越不受欢迎的领域。
为什么？人工智能的反对者确实有诸多合理观点。人工智能正在破坏博客生态系统、我的电子邮件收件箱、朋友孩子就读的学校、开源代码等。人工智能公司假装资源取之不尽，却在气候危机迫使我们正视清洁空气和清洁水短缺的现实时视而不见。
虽然人工智能领域充斥着大量虚假和过度夸大的宣传，但其本质仍是一项真正有用的科技。我希望以不损害自身批判性思维能力、不假装资源取之不尽的方式使用人工智能。
在我离开期间，fast.ai已发展为Answer.AI。Jeremy和团队正在延续我们十年前开启的工作：让更多人接触到强大的技术，同时始终将人类判断和自主权置于核心位置。
他们开发了SolveIt工具，人们可以直接编辑人工智能的回应，并自行决定下一步行动。其设计理念将人工智能视为可能犯错的工具，始终将人类置于控制地位。加入Answer.AI意味着回归Jeremy和我共同开启的工作，以及改变世界的初心。
SolveIt的名称源自乔治·波利亚1945年著作《如何解题》。波利亚将问题解决过程划分为四个阶段：理解问题、制定计划、执行计划、回顾结果。每个阶段都需要你进行思考并运用判断力。
乔治·波利亚的原著
当聊天机器人从你的初始请求直接跳转到最终答案时，你跳过了深入理解问题所需的过程。没有经过这个思考过程，你就无法判断解决方案是否有效，也难以应对建立在该解决方案之上的下一个问题。SolveIt明确设计为与过度"贴心"的聊天机器人截然相反。
人工智能并非单一事物
大型科技公司已让他们的技术愿景看起来像是唯一选择。但事实并非如此。OpenAI、Anthropic、Google和xAI并未拥有人工智能。他们的价值观和决策并非人工智能技术的唯一可能形态。
许多因素将最终塑造人工智能的发展形态：开源是否能获得保护？主要人工智能实验室是否会阻碍小型公司在其技术基础上构建强大生态系统的开发（例如Anthropic宣布其SDK使用费用将高于网页应用使用费用）？工具的设计是鼓励人类协作，还是仅仅追求最大程度的自动化？
全球成千上万的人正在主导叙事之外探索人工智能，以符合自身价值观的方式进行创新。Answer.AI开发的SolveIt项目只是众多案例之一。
我理解为何许多人反对人工智能。我的新工作正是建立在相同的担忧之上。我重返这个领域，是因为我希望探索如何以保护人类创造力、自主权和解决问题能力的方式使用人工智能。
相关阅读
- 有目的的成长：让你成就自己的工作。（Jeremy Howard 在 2026 年人工智能工程师大会上的主题演讲）