The Programmable Data Center — Evan Conrad, SF Compute
TL;DR · AI 摘要
SF Compute通过可编程数据中心和物理结算重构GPU交易市场,实现从网络到内存的全栈控制,推动计算资源像电力一样可交易。
核心要点
- SF Compute通过分离控制平面实现GPU资源编程控制,降低超算集群部署成本至数百万美元级
- 物理结算要求明确GPU代际、网络配置等参数,直接影响合约价格和执行可靠性
- 市场流动性依赖订单匹配系统,需支持现货/远期交易和批量/实时推理的差异化定价
结构提纲
按章节快速跳转。
软件定义网络如何从颠覆传统网络架构演进到重构GPU计算市场。
SF Compute通过分离控制平面实现从网络到内存的全栈编程控制。
买家获得可执行计算资源而非现金结算,需明确GPU代际和网络配置等参数。
订单匹配系统需处理现货/远期交易和批量/实时推理的差异化定价需求。
市场运营商需保持中立,避免硬件厂商利益冲突影响交易公平性。
思维导图
用一张图看清主题之间的关系。
查看大纲文本(无障碍 / 无 JS 友好)
- 可编程数据中心
- SDN扩展
- 网络虚拟化演进至GPU资源控制
- 物理结算
- GPU代际要求
- 网络配置参数
- 存储恢复速度
- 市场机制
- 现货/远期定价
- 批量/实时推理
- 独立性运营
金句 / Highlights
值得收藏与分享的关键句。
软件定义网络曾使Cisco支付6亿美元收购,现SF Compute将其扩展至GPU市场
物理结算要求明确GPU代际、网络配置等参数,直接影响合约价格和执行可靠性
市场流动性需支持现货/远期交易和批量/实时推理的差异化定价,避免指数与实际成本脱钩
标题:可编程数据中心 — Evan Conrad,SF Compute
来源链接:https://www.latent.space/p/sfcompute2
发布日期:2026-10-20T19:31:57+00:00
_这段内容是在AIE NYC新设立的Compute Trading专题讨论现场录制的。我们下次将在AIE CODE亮相,这是面向全球顶尖智能体工程师的最后一站旗舰活动。_
在云计算早期阶段,前嘉宾Martin Casado创造了一项具有颠覆性的技术,以至于思科感到足够威胁,为此支付了6亿美元,而VMware则以13亿美元的报价成功竞标:
这个概念就是[软件定义网络](https://www.reddit.com/r/networking/comments/3lctxk/comment/cv597dc/),通过将控制平面与数据平面分离,实现了路由网络的虚拟化。如今这场革命正在向GPU领域扩展——过去要运行自己的超算集群,需要先投入5000万到1亿美元用于硬件、固件到内核的全套堆栈建设,而SF Compute现在不仅让你能够买卖当前和未来的GPU时长,还可以从网络到内存对所有内容进行编程控制。
我们之前曾与Evan讨论过计算商品化。在AI Engineer New York活动中,我们深入探讨了:要实现GPU合约的物理交付需要哪些条件?在计算市场成为流动市场之前,必须满足哪些前提?
Evan用酒店类比来描述SF Compute的扩展。客户想要一个房间,随后又要求清洁服务、客房服务和安保。最终你会发现,提供房间意味着要运营整个酒店。SF Compute最初尝试转租集群,此后已构建了大量云服务运营能力,以交付其市场上的计算资源。
这项工作涉及物理交割:买家获得的是可使用的计算资源,而非仅仅针对指数的现金支付。它将集群的物理限制直接带入市场本身。工作负载是否可能被中断?从存储中恢复需要多快?需要哪种代际的GPU、网络和软件配置?这些细节既影响合约本身,也影响价格。
SF Compute并未等待所有GPU集群都变得可互换,而是匹配具有不同约束条件的订单。Evan认为这使得在技术变化期间进行交易成为可能,代价是流动性需要分散到更多变种中。我们还讨论了现货与远期定价、批量推理与实时推理的区别,以及为什么指数可能与实际购买计算的成本脱钩。
独立性是Evan主张设立市场运营商的核心论点。他认为拥有大型硬件或推理业务的公司,其利益冲突会使其难以运营中立的交易所。我们还深入探讨了那些不那么光鲜的工程工作:实地考察、集群设计、背板运行以及使基础设施可编程。接近结尾时,他描述了能够随时细分InfiniBand网络拓扑的一个实例。
嘉宾:Evan Conrad,SF Compute首席执行官。
- 0:00 — 为什么NVIDIA无法构建这个?
- 0:25 — 欢迎回到潜空间
- 2:23 — 从出租房间到运营酒店
- 3:47 — 实物交割:实际交付算力
- 6:00 — 流动性与GPU订单簿
- 8:42 — 非标准算力交易
- 10:00 — 中断和迁移工作负载
- 12:20 — 为什么硬件群体很重要
- 14:32 — 计算合同能覆盖多远?
- 16:19 — 批处理与实时推理租赁
- 17:58 — 计算价格的形态
- 20:33 — GPU世代、规格与SKU
- 23:30 — 实物交割与现金交割
- 27:00 — 新兴的计算市场生态系统
- 29:03 — 交付GPU集群所需条件
- 32:24 — 主权计算
- 33:26 — 为什么NVIDIA无法构建这个市场
- 34:48 — 可编程数据中心
_自动化字幕,轻度格式化;说话者标签未经验证_
00:00 NVIDIA显然是房间里那只800磅的 gorilla(巨头)。他们为什么没有创建SF Compute?我们的印象是NVIDIA无法创建它,但它的存在却能给NVIDIA带来巨大好处。他们无法创建的原因在于,如果他们自己创建了,人们就无法在足够独立的平台上进行交易。
00:25 无论如何,Evan,欢迎回到潜空间。谢谢,欢迎回到AIE。实际上,这是我第一次参加AIE。我认为是的,是的。这次非常特别,因为我觉得你已经从事计算交易、计算市场一段时间了。现在感觉像是一个关键时刻。是的。Jump基本上宣布他们要进入计算市场,这就是为什么我兴奋地想聚集一些人。你遇到了来自SemiAnalysis的Oliver,他基本上是开始覆盖计算市场的,这是我的理解。所以人们会来看你的演讲。
01:00 我认为这很好地解释了你们的起源故事以及你们存在的必要性,还有你们所解决的那些复杂问题。是的,用非常简单且引人入胜的方式呈现。我非常羡慕你的写作技巧,因为你展示了在New Reps上展示的传单。是的,我当时就觉得,内容很直接、简洁,而且很好。总之,恭喜你。谢谢你,我非常感激。同时也要恭喜你们在AIE上的表现。看起来你们正在稳步推进,我们也在稳步推进。我刚从明年AIE的现场考察回来,你们有线索吗?在Javits中心,就是他们举办漫展的同一个地方。哦,真厉害。
01:35 哇,真厉害。但我觉得金融领域的关注点确实很关键。是的,所以我们打算进行细分。比如,这里我们把所有金融相关内容都混在一起了,比如你的金融、他们的金融,保险也属于金融,但它们其实差异很大。是的,因此未来我们可能会更细致地拆分内容,因为人们希望深入了解对冲基金、银行业或个人财富管理等具体领域。尤其是在纽约,是的。Anthropic表示,他们目前主要关注的是RIAs(注册投资顾问),这与你们完全不同。
02:10 不,我知道这个。是的,好的。对于不了解的听众来说,我们在两年前做过一档播客,你当时谈到过SF Compute的现状。如今,你更多地转向了物理结算领域。你提到的是什么?你们的后台架构,或者你们称之为“背板”(backplane)?是的,这显然需要大量硬核工程能力。是的,你能更新一下SF Compute的现状吗?对于两年前在播客上听过你讲话的听众来说,你们现在的情况如何?我们最初是一家名为Junark的公司,当时只是试图转租我们的集群。
02:45 我们从技术栈开始构建。可以这样理解:就像你在一个酒店里试图出售房间,有人问你:“你打算打扫我的房间吗?”你可能会说:“哦,我可能还需要酒店房间本身,或者需要清洁储物间。”于是你去获取清洁储物间的使用权,接着他们又想要客房服务,于是你获得厨房的使用权,然后他们又想要安全服务,于是你获得安全储物间的使用权。就这样,你不断获取各种设施的使用权,直到某一天你发现自己实际上在运营整个酒店。当你意识到这一点时,你会突然明白:
03:21 在这个市场中,我们的供应商更像是一家基金或云服务商,而我们的情况是,一家拥有数据中心访问权限的云服务商。我们将进一步升级。过去几年,我们一直在构建完整的云运营能力,以可靠的方式提供计算服务。我们称之为“物理结算”,这是从期货市场和其他市场借用的术语,这些市场中,
03:57 比如石油、大豆或其他商品,实物交割意味着你会实际收到石油和大豆。是的。不过,在一些市场,比如石油和电力市场,石油存在交割网络。你需要有管道才能接收石油。如果你想让石油送到你那里,就必须有办法将石油运送到你那里。是的。在金融领域,对于关注新冠疫情期间金融历史的人来说,石油价格曾跌至负值,因为我会支付你来接收我的石油,因为石油正堆积在港口,而我无法承担这笔费用。
04:32 是的。因此我会支付你来接收我的石油。是的。这就是实物交割的奇怪之处。是的。其他市场也存在类似的各种奇怪现象。例如在电力市场和电网中,订单簿中有一些买方和卖方订单,是因为锅炉需要一段时间才能冷却。你可以关闭锅炉,然后在一定时间内重新启动它。因此,这些因素必须被纳入订单簿的考量中。这种现象在计算市场中也会出现。因此,我们在设计实物交割和订单簿时是同步进行的。
05:10 这意味着我们可以实际处理计算领域的现实约束,例如,我可以接受中断,但前提是设备上有可以快速恢复的存储。这与计算市场中类似的问题非常相似。是的。嗯,人们可以参考你的演讲,你已经做过几次其他播客。我想深入探讨一些更高级的内容,而不是基础内容。当然。此外,因为我曾经是一名衍生品交易员,我可以提供一些通常不会深入讨论的细节。例如,目前计算市场的成熟度、深度和流动性如何?目前并不成熟、不深、也不流动性强。好的,我们首先需要做的就是在线获取大量供应,这需要一些时间。然后,我们需要构建整个平台来实现这一点。我们刚刚完成了这个工作。现在,我们将容量转移到订单簿上,使市场变得流动性强。目前,我们总容量的5%在订单簿上,而且我们持续增加更多容量。所有新增的容量都上线到订单簿上。有趣的是,订单簿上的实际交易量可能很小,但
05:45 订单簿上的流动性却很高。因此,对于你拥有的那小部分容量,你拥有高度集中的流动性。对于使用该系统的客户来说,一个标准的衡量指标是:一位客户花费100美元购买我们的容量,我们平均可以从其他人那里卖出这部分容量获得25美元。这是我们试图跟踪的指标之一,因为我们希望流动性对商业参与者有用,而流动性可以通过多种方式衡量。例如,你可能只想看到大量做市商的存在。
06:21
06:56 嗯,你可以用一些高明的方式来衡量它。我们尝试通过这样的方式来衡量:这个问题是否真正解决了客户的问题?对,明白了。而且,上次我们谈到的时候,也涉及了很多关于标准化合同的讨论。是的,我们和CFTC之类的机构进行过交流,这些事情目前进展如何?我认为,总体来说,标准化合同仍然还很遥远。当时我们试图做的是,或者说,过去几年我们学到的经验是,我们只需要先
07:31 运营整个系统。否则你无法实现标准化。因此,要更接近标准化,你首先要让整个系统的所有操作保持一致。对的。举个例子说明差异可能在哪里:一个运营商可以提供两种不同类型的虚拟机。一种虚拟机的性能可能会比另一种类型下降40%。40%的下降幅度很大。当你说性能下降时,是指像MFU这类指标,还是指你经历的烧录量,或者其他因素?这会影响结果。在这种情况中,我指的是GPU内核启动以及这个过程所需的时间。
08:07 这是一个在训练或推理过程中频繁发生的过程。基本上,最终结果是你的MFU会变差,但中间层的情况是这样的,中间层的情况就是如此。是的,是的。因此,我想要说明的是,对于那些曾经交易过商品的人来说,商品有不同的等级。是的,对的。比如,它不是原油,而是轻质原油与轻质原油的对立面,或者像玉米A级或玉米B级之类的。因此,人们试图建立这些事物的等价标准。没错,是的。我想知道这些标准是否已经建立。
08:42 所以,我们采取的替代方案是创建了一个包含多种不同约束条件的订单簿,你可以表示,比如,你想要介于这两个值之间的某种东西。它的时间范围是从这个时间到那个时间。它就像X到Y,你可以附加许多不同的属性到你的订单上。然后,我们通过一个大型的匹配引擎,将这些订单与具有相同属性的卖单进行匹配。我们之所以这样设计,是因为这使我们能够在不事先标准化技术能力的情况下生成流动性。由于技术发展如此迅速,我们希望具备这种灵活性。这种做法的代价是流动性更加分散。
09:18 因此,价格会出现更大的买卖价差。是的,这确实有点令人沮丧。是的。但另一方面,这也意味着如果你能正确操作,会有大量套利机会。所以,如果你的产品可以利用多种不同类型的容量,你可能会特别喜欢SF计算,因为你可以利用各种不同类型的容量,从而赚取更多利润。你可以利用价差。好的,这个事物网格中有哪些维度是重要的?嗯,有很多不同的因素。其中一个是维度类别,我可以这样说,比如是否存在
09:53 现在正在运行的工作负载,还是未来可用的容量?当然,现在是否有容量?如果要出售当前的容量,你必须中断当前的工作负载。因此你需要考虑,是否在意当前工作负载被中断?如果容量是下个月才开始使用,你可以随时购买和出售,这会带来很高的流动性。不过,也存在一些担忧,比如“哦,不,我下个月有容量,但这和现在中断工作负载的情况完全不同”。中断的方式也会影响结果。例如,如果你使用的是一个集群,而该集群的存储能力不如你期望的那样强大,比如你是否在底层使用了Weco或Vast系统?
10:31 你是否提供这样的存储?它的规模有多大?这会改变你对被中断或从集群中移除的响应方式。同时,存储的位置也很重要。如果你能快速将数据从一个集群迁移到另一个集群,那么你可能可以跨多个集群分散部署。你在这里被中断后,可能在那边重新启动。要实现这一点,你还需要在集群之间建立快速的传输路径。通常这通过广域网(WAN)实现,但大多数集群并不具备这样的网络。
11:06 广域网,也就是连接集群的光纤电缆。也可以将其视为专用互联网。如今许多新部署的集群并不像传统CPU集群那样靠近客户,因为需要降低延迟。对于GPU集群,它们通常靠近电源,比如将数据中心建在靠近电源的地方,而不是靠近客户。这意味着许多设施被放置在以前并未预期会有数据中心的地方。
11:41 因此,你可能没有从一个集群到另一个集群的优秀传输路径。这开始变得关键。其他例子包括一些理论上支持但实际上尚未实现的功能,比如我们正在考虑但尚未实施的某些功能。早期的GB 200s出现了故障,早期的H 100s也出现了故障。因此,如果你正在购买H 100s或GB 200s,你可能真的需要选择在某个时间点之后部署的设备,因为这样可以避免拿到首批有问题的设备。
12:16 如果你是极其精明的客户,你可能愿意为此支付更多费用。因为这涉及到设备的批次,它们随着时间推移会变得更好。例如,首批下架的设备可能有一些缺陷或问题。没错,如果你拿到的是首批出货的设备,它们确实可能有故障或某些问题。我认为大致的流程是这样的:缺陷无处不在,这是必然发生的。当你从TSMC或其他供应商收到新批次的设备时,你只需要运行测试,然后找出问题所在。
12:53 哪些是坏的,哪些需要被丢弃。这难道不是它的工作方式吗?而我之前并不知道这种分组(cohorting)的要素,比如假设在2026年第四季度,B300s的表现远不如2027年的B300s。是的。那我举个例子吧。你描述的是老化测试(burn-in)。是的。当你获得一个集群时,一个好的云服务商会怎么做?它会试图在这些GPU到达客户手中之前,彻底淘汰所有有问题的GPU。然后,那些损坏的GPU或节点会被退回(RMA)。你基本上需要去申请更换,是的。你把损坏的设备退回,然后会收到新的设备,但这个过程需要一定的时间。
13:30 不管怎样,你总会收到一些设备。然后客户就根本不会经历这些问题。我所指的是,比如在早期的H100s中,存在一些固件错误,这些错误可能与特定的硬件无关,甚至可能不是NVIDIA的问题。例如,Super Micro在你购买的机箱中可能存在固件错误,而这个问题会影响所有设备,无论它们是哪一批次的。解决方法是需要让客户更新固件,或者他们必须在每一批新的设备中都提供新的固件。
14:07 是的,我们遇到的B300s就是这种情况。IQ团队不得不使用Devin来修复这个问题。是的,很棒。所以像这样的不同问题可能会发生。有趣。好的,我理解了。相比整个市场来说,这似乎是一个小问题。我想让人们理解这个市场的结构。你提到了抢占(preemption),你知道的,我们之前讨论过Spot实例,以及如何用类比来解释。是的。此外,还有预订一个月后的情况。这些市场能提前多久预订?对你来说,实时性还是抢占性更有趣,还是更远期的预订?
14:42 提前多久?回答你的第一个问题,是三到五年。哇。我们开始看到按月或按季度进行的交易。你是问现金流如何运作吗?比如,合同,比如期货合同,对吧?再次强调,我之前是合同和衍生品交易员。在更广泛的市场中,集群的融资周期是三到五年。好的。因此,这些付款是在整个周期内完成的。此外,我们的订单簿中还有容量块,可以延伸到任意时间。是的,我们还需要处理与现金流相关的一些事情。
15:18 目前,我们只是要求客户为一个容量块全额预付。我们不会要求他们为长期租赁合同做同样的事情。这涉及到我需要白板来解释的一些内容。不过,你还有一个问题我差点忘了回答。你更关注实时性还是更长期的预订?我们更关注长期的预订,因为我们试图构建一个具有大量流动性的远期曲线。这些概念在某种程度上是相同的,但在某些方面又不同。因此,我们所做的就是,由于
15:54 a,你可以购买一小时的使用权,可以立即购买到下一小时,也可以立即购买到未来三年的使用权,中间任何时间都可以购买。这真的很疯狂。我知道。嗯,而且,如果你的技术需求存在差异,每个客户的情况也不同。比如,如果我的工作负载是批处理推理,可以在任何时间被中断,我并不在意。那么我需要大约一小时的时间来确认即将被中断,之后就没事了。甚至我可以提前一两分钟收到通知。但如果我有实时推理客户,他们期望我始终保持在线状态,那么你可以中断我,但可能需要一个月、两个月或三个月的时间,我可以在那段时间内逐步适应这种容量变化。但你不能在一分钟内就中断我。因此这两种情况的定价是不同的。它们定价不同的原因在于,中断批处理作业需要支付的费用与中断实时作业所需支付的费用截然不同。如果你有实时作业,当服务中断时,你可能需要向客户支付SLA(服务等级协议)违约金。这样理解对吗?是的,我明白了。实际上,这相当于一个“终止租约”的市场。这就是“终止租约”的市场。天哪。此外,还有“未来租约”或“即将到期租约”的市场。哦,我以为这类似于转租的情况,但实际上是“租约终止”的市场。可以这样理解:在电力市场中,实际上存在两个市场,一个是日前市场,另一个是实时市场。计算资源市场也有类似的情况,它拥有即将上线的容量,或即将到达你的容量,以及当前正在使用的容量。这些容量的价格动态是不同的。有趣。是backwardation(反向贴水)还是contango(正向贴水)?是backwardation还是contango?是的。那么,远期计算资源的价格是高于现货价格还是低于现货价格?远期计算资源的价格走势是怎样的?比如,一年期、两年期的价格走势是怎样的?
18:16 嗯,这在不同时间点都有所不同。我发现你竟然不知道这一点,这很有趣。是的,这取决于你是谁。好的,那我来解释一下。你问的是,现在出售的计算资源是否与今天同一单位的计算资源相同?是的,可能不是今天,而是一个月后、一年后或两年后。那么,这个价格曲线是向上还是向下?我们看到的是一个驼峰状的曲线。天哪。好的,让我解释一下。我认为这会很直观,就像如果你有牛奶即将过期,你会降低它的价格。是的,这基本上就是我们看到的情况。
18:52 这就像NVIDIA的发布周期一样,对吧?嗯,我们更倾向于说,如果有大量计算资源即将上线,但它们无法在过去的市场中销售,因此必须降价才能以某个价格清空库存。是的。所以最初你会看到价格大幅下跌,因为目前市场上出售的任何产品都是之前没有售出的,因此价格会下降。然后价格又会上涨,直到达到预期水平。未来可能计算资源的价值会降低,因为人们更倾向于立即获取计算能力,因此愿意为较短的交付周期支付更多费用,而对未来的计算资源支付更少。
19:28 这就是我认为正常的健康价格曲线应该呈现的样子。是的。让我感到惊讶的地方在于,如果你现在用B300进行推理任务,每小时可以赚到大约40美元,出售这种推理服务几乎适用于任何模型。如果使用率达到100%,或者即使只有50%的利用率,每小时也能赚到25美元。是的,每小时25美元。与此同时,你却可以用每小时5到6美元的价格购买B300。这两个数字中必然有一个需要改变。这是一个巨大的套利机会,而且非常巨大。你在演讲中经常提到这一点。
20:04 是的。所以,很多人看到这种情况后都在思考,如果我认为价格会上涨,我可能愿意为未来支付比之前更高的价格。因为我会想,我现在可以买五块,但如果以后买不到,我可能愿意在未来支付更多来锁定资源,如果它之后上线的话。我们也能看到市场另一面的反应。这取决于你是谁。好的,这样可以吗?我想在此特别明确一点。当然。你在意芯片的不同世代,还是只在意整体浮点运算能力,并将这些能力分配到你想要的任何芯片上?
20:40 我们在意芯片的不同世代,因为你也一样在意。我认为,我猜你的客户是否在意?是的。哦,等等,你提到不同世代的芯片时,是指像B300这样的芯片吗?没错。或者像AMD或其他厂商的芯片?是的。我认为人们确实非常在意芯片的世代。我认为其中一部分原因与VRAM有关,另一部分原因则与更大的NBLink域等特性有关。是的,还有类似的因素。因此,根本无法将所有这些特性抽象成某种通用的计算单位,你可以随意分配。我认为当你提到石油时,即使石油也不是同一种石油。石油实际上只是各种不同类型石油的统称。
21:16 是的。比如喷气燃料或汽车燃料,反正都一样。我认为它们本质上是相同的。嗯,你将会看到各种不同类型。确实如此,但你们有石油炼油厂。是的,可以有效地制造黑箱系统。你把石油放进去,就能得到各种东西。嗯,如果计算是如此异构,我想这就是这个词的含义。问题在于你必须将底层的复杂性暴露给终端客户,这对作为市场做市商的你来说是不利的。也许吧。比如你想要找到一个关键瓶颈点,或者我不知道有没有更好的词,比如“壳点”,大家达成共识,认为这就是某种标准,我们都会同意这个标准,你知道,这样虽然效率会有所降低。
21:53 是的。嗯,我们已经能够在一定程度上减少这些问题,但确实如此。你的工作就像是降维。是的,我们减少了大量维度,但无论如何,仍然存在一些维度。是的,它仍然会存在。你知道你们有多少SKU吗?比如,五乘以一百乘以五千等于,我不知道。比如,我们实际上把SKU作为一个概念,这个概念的目标是让其他人能够创建自己的SKU。所以如果我想买Blackwells,我可以表示我愿意以每小时6美元或更低的价格购买。你可以将我匹配到GB300s或者B300s,我不在乎是哪款Blackwell,只要价格低于每小时6美元。但你刚才说你只关心内存和其他因素。完全正确。但并不是每个客户都这样。有些客户,嗯,他们只关心Blackwells,不管是什么。有些客户非常具体,他们需要这个确切的配置,并且愿意为此支付更多,因为市场会向他们收取更多费用。好的。嗯,这就是我们所做的。因此,人们使用你们的API来编程定义他们想要的东西,然后你们将这些需求与卖家的各种组合进行匹配,他们可能能够满足这些需求。
22:31 是的。不过需要说明的是,我们正在尝试一种新的方法,即命名查询。但查询系统作为一个概念,就是目前订单簿的工作方式。好的,很有趣。嗯,好的,所以,你知道,我认为这涉及很多细节。有没有什么关于你希望向金融人士或工程师解释的,关于你所开发的计算交易市场现状的内容?因为实际上你们在定义这个市场。主要是对实物交割的需求。是的。我们认为,如果你,我们花了三年时间学习为什么需要实物交割。我们今天整个对话的重点就是,这些事物不像你认为的那样具有可替代性,我们试图让它们变得可替代。这是整个行业需要完成的任务。但如果没有这个,你会面临很多风险。如果你在行业尚未建立实物交割体系之前,就试图过度金融化,我认为你将面临一个很容易被操纵的市场,以及一个存在大量基差风险的市场,你所对冲的价格可能与实际价格毫无关联。
24:22 用市场价格来衡量实际可购买的容量。是的。对于听众来说,我们上次简要讨论过这一点,但人们常常会感到惊讶,比如信用违约互换市场的规模是其所保障债券的12倍,或者住房抵押贷款再保险等市场的规模甚至超过实际的实物结算规模。这就是为什么实物结算与现金结算存在差异。是的。现金结算本质上就像《大空头》中看到的那种赌注,它们
24:59 可能与标的资产本身毫无关联,也可能被用作其他因素的替代指标。是的。你当然不希望这种情况失控。是的。需要明确的是,我们认为现金结算作为期货概念本身是一个好主意。是的。我们只是认为它应该从实物结算中衍生出来。是的,因为正如你所说,它是一种附加赌注。如果在完成实物结算之前就进行期货现金结算,这就像你现在看到的某些人正在做的事情一样。是的,完全正确。人们总是试图在实物结算之前通过现金结算获利,他们出于各种原因这么做,包括
25:34 初创公司股票。是的,没错。比如你可以买卖Open AI的虚拟股份,但这与实际股份毫无关系。是的。而且这些虚拟股份往往表现得很差。比如,如果你开始出售尚未存在的股票衍生品,这会带来严重问题。是的,是的。那么,我想说的是,我们做过的一件事是,我以前做过外汇交易员,对吧?是的,也做过利率交易。我们做的一件事是,有一个小组会聚在一起,确定伦敦银行同业拆借利率(LIBOR)。是的,我们都会同意这个月度基准利率,并以此进行交易。
26:12 三年后这个基准利率是否仍然有意义?关键问题是LIBOR曾被人为操纵。是的,这是我们目前的担忧。有12家银行参与吗?是的。是的。我们的担忧是存在一个类似的问题,即可以操纵指数。我们的印象是,之所以能操纵这个指数,是因为很多指数基于的数据量非常有限,这些数据与实际购买新储备合同的价格关联性并不高。这就是我们所担心的。好的。
26:47 有趣。嗯,我认为这就是目前的大致情况。我认为今天另一个需要讨论的是,你提到过与Jump的活动,你和Silicon Data的朋友们有联系。你从这些其他参与者身上学到了什么?有哪些主要参与者是你认为值得关注并做了一些有趣事情的?哦,我们非常推崇Silicon Data和Compute Exchange。我认为他们也是最早涉足这一领域的企业之一。我认为他们正在尝试一条与我们设想的路径相似的路线,我们很可能最终会与他们成为合作伙伴。
27:23 嗯,你能区分你们不同的路径吗?总的来说,他们做的是现金结算,而我们做的是实物结算。我们认为两者都可以存在,也应该存在,它们对彼此都有好处,这完全没问题。我认为他们是在这个领域最早的一批人之一,而且他们显然在其他人之前就做出了这个赌注,我觉得这样做非常值得尊敬。你提到了jump和Semi-analysis,这些是正在崛起的玩家。你是我最早接触到这个领域的引荐人,之后我看到越来越多的人进入这个领域,我就觉得这里肯定有些事情正在发生。
27:58 我对这个领域的了解不如你清楚。是的,我们看到的群体包括那些试图设定更高标准的人。我认为Semi-analysis正在努力创建更好的标准。还有一些人试图进行残值保险等业务。这个领域有众多不同公司,我并不特别熟悉其中任何一家,但我知道这是一个重要的概念。还有一些人试图进行存款或借贷业务,他们会为云服务承担你的信用风险。围绕如何解决计算的财务瓶颈,正在形成一个企业生态系统。
28:34 看到这些确实很酷。我认为在这个生态系统中,你真正需要的是买家和卖家,需要分析师,需要保险或残值评估等角色。我们希望看到一个健康的生态系统。显然,你们正在解决实物结算的问题,这非常有趣。好的,我们也可以讨论硬技术方面,因为显然你们也在招聘极其优秀的工程师。请描述一下你们的技术栈。我们做了云服务能做的一切,但又不是云服务。
29:10 也就是说我们不拥有硬件。我们不拥有硬件的原因是,如果我们拥有,就可能操控期货市场。我们必须保持中立,像瑞士一样独立。这给公司带来了很多奇特的特性。但为了进行实物结算,你必须进行实地考察,必须访问数据中心。你必须设计物料清单并确保,基本上要做供应链咨询,与不同OEM建立关系,确保按时交付。
29:46 然后你必须进行集群架构设计。也就是说,你实际上在设计集群本身。然后你负责部署机架,或者与合作伙伴一起部署机架并监督这个过程。然后你进行背板管理,接管PDU、交换机、DPU、UFM和BMC,并运营你销售的节点周围的整个线缆系统。当你作为SF计算员工时,你就是这些节点的拥有者。哇,是的。所以当你从云服务购买一个节点时,除了裸金属,还有围绕裸金属的许多其他组件。
30:23 裸金属。对。嗯,为了让这个裸金属节点正常运行,你必须负责管理其他所有组件。然后我们。因为传统上数据中心的工作就是把这些复杂性从你身上剥离掉。是的,我们就是做这件事的。好的,对。嗯,但你并不是数据中心运营商,你不是那种Equinix这样的企业。我们也不从事数据中心业务,我们所做的工作是,我们提供超级计算即服务。嗯,这意味着人们会来找我们说,比如,
30:58 我有X,这里的X可能是,比如我有X兆瓦的电力容量。有时他们可能意味着我有一个数据中心,想把它改造成GPU集群。我的选择是,我可以出售这个GPU集群,或者把整个数据中心卖给别人,或者自己转型为云服务商。然后我们会对这些人说,太好了。我们会帮你转型为云服务商。我们负责超级计算部分,你负责数据中心。让我们合作。然后我们会进行销售,我也会从中获利。有时候是那些拥有可以改造成数据中心资源的人,这种情况下我们会基本上负责项目管理,直到达到数据中心层级。
31:33 嗯,然后我们会与这些远距离的合作伙伴合作,我们会帮助他们将已有的电力土地或其他资源,通过与合作伙伴协作,转变为数据中心。然后我们会接管超级计算部分。好的,这需要我们在内部具备一定的数据中心专业知识,但我们自己不负责建设施工。嗯,是的。是的。所以这在某种程度上是模块化的,因为你要根据不同的场景来应对。是的。嗯,有人曾经这样形容我们,就像计算领域的Palantir,因为每次都是新的挑战。
32:10 嗯,但我们也非常重视与各方的深度合作。双方都如此。是的。嗯,主要是在美国,但我们在全球范围内运营。是的。在某个时候,SF compute这个名称会不会变得不准确了?嗯,当我们在全球各地部署集群时,我们会与那些自己也在全球范围内尝试成为云服务商的人合作。他们看起来像是主权计算领域的参与者。对我们来说,向主权计算提供服务非常有吸引力。让我们帮助你在自己的国家建立一个云。我们会带来旧金山的市场需求。我们会带来旧金山的专业能力。
32:45 我们会部署这些集群。这就是我们整个业务的核心。啊,我们会做到这一点。你能说出你最大的合作伙伴是谁吗?嗯,我不能说出任何具体的名字。真的吗?哇。我们会在一两周内有一些公告,预计会发布。是的,各种各样的事情。当然,当然。祝你好运。是的,我的意思是,我认为这对每个国家来说都非常有趣,谁在投资主权AI,谁就会去解决这个问题。有趣的是,旧金山仍然是一个非常有市场价值的品牌名称。
33:20 因此我认为其中一项有趣的事情就是深入思考这个市场。NVIDIA 显然是这个领域无可争议的巨头。为什么他们没有推出 SF Compute?答案仍然是市场操纵。但让我们深入分析多个参与者的激励机制。我们的印象是,NVIDIA 无法自己制造它,但它的存在却能给他们带来巨大好处。原因在于,如果他们自己制造,就无法保持足够的独立性供人们进行交易。如果无法交易,那么借贷方就无法在远期市场中获得足够的流动性。
33:55 这也是为什么 Crusoe、CoreWeave 和 Lambda 这些超大规模云服务商无法制造它,为什么 Base 10、Fireworks 和 Modal 也无法制造它,因为这些企业在这端的需求过于旺盛。这种能力对整个行业都有好处,因为它能降低融资成本。但除非放弃所有大模型推理业务和大云服务合同,否则没有人能制造它。你必须牺牲自己的核心业务才能实现这一点,这就是为什么没人这么做。从结构上看,他们根本无法做到这一点。你基本上只是在减少摩擦,而这就是你所有的收入来源。
34:30 你们宣布了一些里程碑。实际上,我之前忘记提前说明这一点。你能重复一下这些里程碑并稍微庆祝一下吗?我们已经完成了数亿美元的交易规模。我们有大量新的集群即将上线。让我最兴奋的是,我们已经推出了许多新功能,使 SF Compute 对于平台即服务公司来说变得非常可行。例如,我们现在允许客户在不向我们申请的情况下自行划分
35:06 他们的 InfiniBand 网络架构。许多云服务商在你购买时只会给你一个 InfiniBand 网络架构。如果你想要重新划分这个架构的边界,就需要联系他们,他们会为你处理。我们现在可以实时为客户完成这项操作,我认为这非常棒,因为它与市场对接得很好,你可以根据需要随时调整集群规模。你会把这描述为虚拟化数据中心并使其可编程吗?是的,我们正在虚拟化数据中心并使其可编程。所有如果你拥有硬件时能获得的功能,我们都在尝试虚拟化,我认为这对我们来说非常激动人心。有趣的是,上一次发生类似事情就是云计算,这真的很酷。最后,你对人们有什么呼吁吗?是工程师吗?还是说,给我你的供应?具体是什么?如果你希望拥有一个 GPU 集群并希望从中获得残值,希望将其纳入你的投资组合,我们非常愿意与你合作构建这个 GPU 集群。我们会接管并负责其中的超算部分,
35:43 确保一切顺利进行。我们负责 SLA(服务等级协议)。如果最终发现这个决定是错误的,你需要从集群中退出,我们可以立即把集群卖给其他人,这样就不会影响你的资产负债表。非常简单的推销方式。非常感谢你花时间接受采访。你为行业提供了巨大的价值,我很高兴能成为你的朋友。我非常感激。好的,谢谢。就这些。