Partnering with Sail: Agents Without Limits
TL;DR · AI 摘要
Sail构建了支持长时间运行的代理推理堆栈和Sailboxes,通过芯片优化和弹性资源分配降低计算成本。
核心要点
- Sail的推理堆栈通过智能分配芯片资源,使单任务成本降低至原价的分数之一。
- Sailboxes支持长期运行的代理,可维持数月运行且费用接近零。
- 团队成员来自NVIDIA、Apple和Together AI,具备顶尖计算基础设施经验。
结构提纲
按章节快速跳转。
思维导图
用一张图看清主题之间的关系。
查看大纲文本(无障碍 / 无 JS 友好)
- Sail基础设施
- 推理堆栈
- 芯片资源优化
- 动态分配
- Sailboxes
- 弹性扩展
- 长期运行
- 团队背景
- NVIDIA
- Apple
- Together AI
金句 / Highlights
值得收藏与分享的关键句。
Sail的推理堆栈通过智能分配芯片资源,使单任务成本降低至原价的分数之一。
Sailboxes支持长期运行的代理,可维持数月运行且费用接近零。
团队成员来自NVIDIA、Apple和Together AI,具备顶尖计算基础设施经验。
与Sail合作:无限制的代理 | Sequoia Capital
$
/$
与Sail合作:无限制的代理
Sail正在构建用于持续运行数小时、数天甚至数周的代理的推理堆栈和运行时环境。这将是未来的token工厂。
作者:
Lauren Reeder
,
Konstantine Buhler
发布于2026年10月2日
发布于2026年10月2日
多年来,“使用AI”基本上意味着人类在框中输入并等待答案。下一章属于代理。机器以耐心和毅力追求任何问题的解决方案,其限制仅在于它们获得的计算能力和上下文。
对代理的需求已经存在。但支持它们大规模运行的基础设施尚未成熟。Sail是支持代理大规模运行的平台。
AI基础设施的新北极星
Sail正在构建一个代理可以连续运行数小时或数天以解决我们最复杂问题的世界。Sail专门为其推理平台设计了跨广泛计算能力的运行能力,并具备处理长期代理任务的灵活性。为了实现这一目标,Sail团队正在推动两项关键技术:
第一项是他们的推理堆栈,即实际运行模型的机器。Sail遵循一个简单的信条:“没有差的芯片,只有差的价格。”团队拆解并重建了推理堆栈,以从每块芯片中榨取更多性能。他们智能地在供应商之间分配工作,确保没有任何环节停滞。他们利用原本闲置的数据中心容量,特别是那些规模太小或太老旧而无人问津的集群。他们通常会是首批尝试新加速器的团队,始终在寻找将它们融入其引擎的高效方式。
这种改进后的堆栈使代理能够更长时间、更深入地思考,以极低的成本在单个任务上消耗数十亿个token。
第二项是Sailboxes,这是希望永久运行的代理的工作空间。Sailboxes根据用户需求灵活扩展CPU和内存,因此等待事件或长期工具调用的代理在此期间几乎不产生费用。客户确实会将Sailboxes运行数月之久;它们基本上是“永生”的。Sailboxes支持广泛的应用场景,从持续的安全检查、监控网络上的每个实体产品,甚至为Sail办公室内运行数月的国际象棋排行榜提供动力。Sail团队并非计算基础设施领域的新人。Neil Movva的职业生涯始于NVIDIA,将GPU推向极限,随后在Apple推动新一代AI加速器的极限,最终又回到Together AI的GPU领域。Samir Menon来自Apple,曾为十亿用户规模构建极其可靠的系统。这是一支深知并热爱性能工程的团队,他们会不惜一切代价追求推理引擎的极致速度。
但不仅仅是GPU:办公室里偶尔会有单轮车的短暂表演。他们国际象棋排行榜的榜首位置由每位新员工激烈争夺(感谢现任冠军Nirvik保持的连胜纪录!)。Sail是一支令人惊叹的团队,正在快速扩张。
让智能变得丰富
Sail 的存在意义在于让智能触手可及。在 Sail,从芯片层面到 API 的每一个决策,都是为了赋予团队充足的资源、规模和运行时,使他们能够无拘无束地构建智能体。我们非常激动能够从第一天起就成为他们的合作伙伴。未来充满光明,让我们启航吧!