Turning compute into intelligence
TL;DR · AI 摘要
Anthropic通过科学方法论将计算转化为智能模型，Claude在代码生成效率上实现52倍加速，揭示AI训练的规模化挑战与突破。
核心要点
- Anthropic的Science of Scaling强调实验设计对减少训练不确定性的重要性
- Claude在代码生成速度上实现从3x到52x的年度提升
- 80%的Anthropic代码库已由Claude自主贡献
结构提纲
按章节快速跳转。
- §引言
Anthropic从成立之初就押注规模化，其技术路线源于Deep Speech 2的早期经验。
Science of Scaling通过实验设计将计算转化为智能，强调认知谦逊与证据边界。
- ›实验挑战
控制变量实验的困难性要求工程师必须明确实验的局限性与信息价值。
代码生成效率年度提升52倍，80%代码库由AI自主贡献。
- ›加速曲线
Anthropic认为AI加速曲线尚未出现拐点，规模化仍需突破。
思维导图
用一张图看清主题之间的关系。
查看大纲文本（无障碍 / 无 JS 友好）
- 计算转化为智能
- 科学方法论
- 认知谦逊
- 实验设计
- Claude进展
- 代码生成效率
- 52倍加速
- 规模化挑战
- 加速曲线拐点
- 不确定性控制
金句 / Highlights
值得收藏与分享的关键句。
80%的代码库由Claude自主贡献，工程师日均代码量是2024年的8倍
科学方法论要求工程师保持认知谦逊，明确实验的局限性与信息边界
Claude在内核优化任务中实现3x到52x的速度提升，验证规模化潜力
Anthropic 从一开始就押注规模效应。从公司的基因谱系就能读出这一点：Dario Amodei 曾是百度 Deep Speech 2 的第一作者，当时在问题上堆叠更多数据和更多计算资源仍是一种反主流的赌注。Ted Moskovitz 现在领导着将这种信念转化为实践的团队。这个体系被称为“扩展科学”（Science of Scaling），用他的话说，其任务是“探索如何将计算转化为更智能的模型”。在 RAAIS，我们花了半小时深入探讨这个概念的本质：为什么他坚持认为“科学”这个词在其中发挥着实质性作用，以及前沿实验室如何将扩展转化为一种经验性学科，在投入计算资源之前削减不确定性。
Ted 对框架的设定非常明确。他指出，这些系统虽然复杂，但可以理解。关键在于理解它们需要“认识论上的谦逊”，因为总有太多变量在同时运行，“开展对照实验非常困难”。他最看重的技能是知道自己证据的局限性：“了解实验能告诉你什么、不能告诉你什么非常重要。”这听起来很谦逊。在一个将每个成果都包装成突破的领域，这更接近一种激进的态度。他自己的学术路径涉及语言学和神经科学，但他明确表示，真正延续下来的东西不是受大脑启发的架构，而是科学方法本身：严谨性、怀疑精神、对自身结果的质疑。
这份工作也改变了他对好奇心的关系。在博士阶段，你会因为某个问题有趣而深入研究。但在前沿实验室，问题更冷峻：成本效益如何？答案是否有趣但“最终对让 Claude 更智能帮助不大”？通过这种考验的实验会提交给决定大规模训练运行的人，其核心目标是在投入计算资源前消除不确定性。
“这不是基准测试，”Ted说，“真正的考验是‘改变反事实假设’——如果你拿走Claude独自编码，会有什么不同？具体来说，这归结为‘需要的人工干预次数’：人类需要介入的频率，以及模型首次输出是否被直接采纳。按这个标准衡量，进展非常迅速。他指出11月的Opus 4.5是一个飞跃，而2月的Mythos系列模型则是更大的突破。这种转变源于信任：模型仍然会犯错，你仍需检查它们，‘但你现在的信任程度远超以往’。在实验室中，人们已经不再监督每个步骤——他们采用旁路模式，让代理自主运行。”
未来是属于一个全能大模型，还是属于将任务分解到多个小型廉价模型的公司？Ted坚定支持前者，他的论据基于经济性而非情感因素。他引用了OpenAI的Noam Brown的研究，后者绘制了测试时计算量与成本的关系曲线：一个更大的模型若能在更少token内得出同样质量的答案，其成本可能比小型模型持续运行更低。“直接向大模型提问可能更经济。”他更直白的说法是：“人们低估了拥有一个真正聪明模型的价值，它可以回答各种问题。”当然也存在反向压力——在Ramp公司，员工被鼓励在Sonnet能完成任务时避免使用Opus 4.8撰写邮件——但他的判断是，纯粹的智能在成本和质量上仍将继续胜出。
对话反复回到的前沿话题是“判断力”。同一篇文章指出，目前模型能正确选择下一步研究方向的几率已从11月的51%提升至64%。如何构建一个具有品味的系统？Ted对此的回答一贯含糊——他不愿透露具体方法——但他表示，今年团队开始使用Mythos模型时，感觉其研究品味已超越此前所有模型。唯一的保留是：“仍不如普通研究人员。”我问：“普通研究人员指的是哪里？”他回答：“可能在Anthropic。”这是一个高标准的参照系，而模型正在逐步接近这一水平。
问安全性研究对产品质量做过什么贡献，Ted会想到汽车。安全带、溃缩区、安全气囊、不会起火的烤箱——护栏才是让产品真正可用的关键，而没有人能安全使用的产物无法提供反馈来改进它。最清晰的例子构建了整个类别：基于人类反馈的强化学习最初是安全项目——阻止聊天机器人输出垃圾信息——结果却成为让聊天机器人变得优秀的关键。“对齐和安全与能力确实密不可分，”他说。事实上，基于人类反馈的强化学习可以追溯到2017年OpenAI与DeepMind的合作：
我向他提到的一个令人鼓舞的趋势是，更大的模型反而更容易对齐，而不是更难。Ted自己的表述更为谨慎——他表示“这与许多安全研究人员的预期不同”——但他的判断是“目前人们对对齐状况感到相当乐观”，当然也伴随着明显的前提条件：“我们不知道是否会突破某些能力阈值，然后突然发生逆转。”因此，“健康的担忧”是必要的。
最后我问他2026年最具杠杆效应的工作会是什么样子。Ted对自己偏见有清醒认知，但依然直言不讳：如果你相信AGI（通用人工智能）已经临近，就去前沿实验室，因为那里的杠杆效应比外面更大。他自认已完全转向AGI阵营——“我现在的AGI倾向比刚加入时强得多。”他指出，OpenAI和Anthropic仍然是新人可以推动事情的公司，窗口期至关重要。如果你想影响这些系统的发展方向，“越早越好。”
这包括伦敦。Anthropic在伦敦的办公室几年前只有15到20人，现在已经扩展到数百人，甚至有完整的前沿研究分支——Ted就是其中之一——从英国本地开展，而不是从加州镜像复制。“我们不觉得自己是卫星办公室，”他说。
对话反复回到一个核心问题：规模化最难的部分从来不是支出。任何人都能购买更多计算资源；Ted团队正在构建的纪律是另一面——知道每个实验能告诉什么、不能告诉什么，并将这些计算资源转化为可衡量、可信赖的能力。
