Sequoia Capital

Partnering with Etched: Building the Inference Machine

8.5内容质量
Partnering with Etched: Building the Inference Machine

TL;DR · AI 摘要

Etched通过低电压推理和集群内存技术重构AI推理市场,其生产就绪的定制芯片将于2026年交付。

核心要点

  • 低电压推理技术使吞吐量提升30%且功耗降低40%
  • Etched是唯一拥有生产就绪定制硅芯片的后ChatGPT时代硬件初创公司
  • 团队在台湾设办公室以加速供应链协同

结构提纲

按章节快速跳转。

  1. 推理市场将成为全球最大市场,驱动各行业数字化转型。

  2. 低电压推理集群规模内存技术实现吞吐量与延迟的跨越式提升。

  3. 从芯片到集群的全栈设计适配MoE、Transformer等前沿模型架构。

  4. 跨时区团队通过台湾办公室实现供应链深度协同。

  5. 硬件需同步迭代以应对模型架构的快速变化。

思维导图

用一张图看清主题之间的关系。

查看大纲文本(无障碍 / 无 JS 友好)
  • Etched推理系统构建
    • 核心技术
      • 低电压推理
      • 集群内存架构
    • 实施策略
      • 跨时区协作
      • 供应链协同
    • 市场定位
      • 2026年量产
      • 全栈适配

金句 / Highlights

值得收藏与分享的关键句。

#AI推理#硬件创新#Etched#芯片设计
打开原文

与 Etched 合作:构建推理机器 | 红杉资本

与 Etched 合作:构建推理机器

Gavin、Rob、Chris 和 Etched 团队正在构建用于推理的前沿集群,最大化人类每 FLOP 可消耗的智能。

作者:

Sonya Huang

Abhishek Malani

发布于 2026 年 7 月 23 日

推理正在成为全球最大市场的必经之路。

如果这个 AI 梦想能实现我们期待的一切——到目前为止,迹象表明能力提升的速度将持续加快——那么推理将驱动每一家商店、每一部电影、每一次医疗互动、每一款电子游戏、每一起诉讼、每一行代码。

如今,推理市场的规模显而易见,构建专用推理系统已成为共识。早在 2022 年,当 Gavin、Chris 和 Rob 还在哈佛大学宿舍时,这一判断曾是极为反主流的观点。结果是,Etched 是唯一一家在 ChatGPT 之后拥有可量产定制芯片的硬件初创公司,其产品将于 2026 年发货。

过去几年,Etched 在多个研究领域取得突破性进展——低压推理和集群级内存——每一个突破都是经过反复验证的架构选择,显著提升了吞吐量和延迟表现。随着计算单元从芯片扩展到机架,再到集群,Etched 的设计始终面向这一现实,不仅制造芯片,更构建集群级推理系统。依托这些基础创新,Etched 的推理系统在所有前沿模型(从大型稀疏 MoE 到密集 Transformer,再到 Mamba 等全新架构)的吞吐量和交互性方面均表现卓越。

相信这一点是一回事,真正实现则是另一回事。新型计算硬件是世界上最难正确实现的技术之一,而其底层基础却在不断变化。模型每几周就会更新一次,上下文长度不断延伸,注意力机制被重新发明,密集与稀疏的混合比例持续变化。在此领域取得成功需要同时做到两件事:以足够快的速度迭代以跟上模型的发展,同时推动硬件能力的边界。这需要一种罕见的团队:既要有远见卓识设计出正确的架构,又要有足够年轻的速度,既要有量产芯片的实战经验,更要有持续数十年推进这一目标的韧性。

第一次走进 Etched 办公室,就像被闪电击中。无论是清晨还是深夜 11 点,这里的能量始终如一,充满感染力。Gavin 和 Rob 是那种敢于从零开始设计硅芯片的异类,也敢于一路突破所有障碍的先锋,而他们组建的团队与他们不谋而合。我们曾见证他们完成那些区分“仅谈论硬件”和“真正交付硬件”的事情:在圣何塞建立现场实验室部署首台机架;在台湾设立办公室与供应商并置,加速测试进程;对所有假设提出质疑,例如低压推理的可行性。“生产即产品”是公司的信条。交付,是唯一重要的事。

公司的发展速度令人瞩目。今年早些时候,Etched在台积电成功完成了第一代芯片的流片,成为首个在台积电先进制程节点上实现完整光罩A0芯片流片的ChatGPT时代后企业。随后,Etched团队仅用40天时间就完成了首批芯片集群的部署,使其能够运行多种前沿AI模型,并在行业标准的吞吐量-交互性曲线中实现了帕累托最优性能。目前,Etched的首批客户已开始使用该产品,亲身体验系统的速度、吞吐能力和表现力。

Etched在第一代产品中构建了一台精妙的机器。我们预计该产品在市场中将表现优异。但我们选择与Etched合作,是因为我们相信他们打造了业内最稀缺的东西:能够制造机器的机器。这是一支兼具审美眼光和执行力的团队,他们将持续推出下一代推理机器,每次迭代都更快、更雄心勃勃。

人工智能竞赛本质上受到计算能力的限制。突破物理极限,以每浮点运算次数(FLOP)实现最大智能,既是极其有趣的工程与运营挑战,也是人类极其崇高的使命。

我们非常高兴能与Etched达成合作,并领投其3亿美元C轮融资,该轮融资前估值为100亿美元,Jane Street、Andreessen Horowitz、Diffusion和SK Hynix等机构也参与了本轮投资。

分享

在Facebook上分享

在Twitter上分享

在LinkedIn上分享

通过电子邮件分享