硅谷101播客1:46:26

E247|对话盛颖:xAI,Infra的浪漫,SGLang,开源,平权与“甄嬛传”

6.5内容质量
E247|对话盛颖:xAI,Infra的浪漫,SGLang,开源,平权与“甄嬛传”

播客收听

时长 1:46:26原播客页面

问这期播客

会先在本集摘要、章节、转录和笔记里找答案。

TL;DR · AI 摘要

播客深入探讨AI基础设施发展与SGLang开源项目,揭示AI工程化与开源社区的挑战与机遇。

核心要点

  • SGLang从学术项目发展为生产级开源推理引擎
  • AI Infra被描述为需要'美感'的浪漫关系
  • 盛颖因社区维护压力创立RadixArk

结构提纲

按章节快速跳转。

  1. 介绍盛颖在AI Infra领域的贡献与SGLang项目背景

  2. 盛颖从数学研究转向AI Infra的动机与经历

  3. SGLang从学术项目到生产级开源引擎的发展过程

  4. 离开xAI创立RadixArk的决策与社区维护困境

思维导图

用一张图看清主题之间的关系。

查看大纲文本(无障碍 / 无 JS 友好)
  • AI基础设施与开源
    • SGLang项目
      • 学术起源
      • 生产级应用
    • xAI与RadixArk
      • 推理系统搭建
      • 创业转型
    • 开源生态
      • 社区维护挑战
      • 平权理念

金句 / Highlights

值得收藏与分享的关键句。

章节

  1. 要点

    SGLang从学术项目发展为生产级开源推理引擎

    SGLang从学术项目发展为生产级开源推理引擎

  2. 要点

    AI Infra被描述为需要'美感'的浪漫关系

    AI Infra被描述为需要'美感'的浪漫关系

  3. 要点

    盛颖因社区维护压力创立RadixArk

    盛颖因社区维护压力创立RadixArk

转录

这期还没有可搜索转录。后续抓到带时间戳的内容后会自动补到这里。

#AI基础设施#开源#SGLang#xAI

节目笔记

E247|对话盛颖:xAI,Infra的浪漫,SGLang,开源,平权与“甄嬛传” - 硅谷101 | 小宇宙 - 听播客,上小宇宙

这期播客的嘉宾是盛颖,xAI前推理团队负责人、开源推理引擎SGLang发起人及RadixArk联合创始人/CEO。 在开源模型集中爆发之际,盛颖在AI Infra(基础设施)领域的研究和贡献非常核心。她将AI Infra描述为“浪漫的关系”,是产品本身,需要有“美感”。 由此,我们走进盛颖的世界。 她曾经想成为一个数学家,沉浸在一个确定、纯粹、仿佛“与世界无关”的世界里。 但从哥大到斯坦福,从形式化验证到 AI Infra,盛颖一路经历的并不是外界看到的连续发顶刊的高光,背后是不为人知的寻找方向、迷茫、停滞、低谷和重新出发。她逐渐意识到,自己无法勉强去做一件不感兴趣的事;只有真正被一个问题吸引,她才能进入高度专注的状态,并把它做到极致。 SGLang,是这条研究路径的集大成者。它从一个学术项目成长为面向真实生产环境的开源推理引擎,也把盛颖从研究者带进了更复杂的工程、组织与产业世界。 在早期的xAI,她获得了难得同时存在的“support”和“freedom”,参与搭建生产级推理系统。但随着SGLang社区迅速扩张,仅靠开发者在业余时间维护,已经无法支撑项目继续向前。为了让这件事真正走下去,她选择离开xAI,创立RadixArk。 这期节目,我们从盛颖眼中的数学之美、论文和低谷聊到SGLang、xAI与RadixArk,也聊一个人如何逐渐理解自己的天性,并决定不再与之对抗。 盛颖说,她在乎的不是“making impact”,而是那些她认为正确的事情,最终有没有发生。从“世界与我无关”,到“想要构建那个跟强力AI共存、且人类不会输的未来”,这,是盛颖的故事。

【主播】 陈茜,硅谷101联合创始人 【嘉宾】 盛颖,RadixArk联合创始人&CEO,xAI前推理团队负责人、开源推理引擎SGLang发起人

【你将听到】 02:16 违约金、纽约与数学之美:“世界与我无关” 16:06 顶刊、低谷期与甄嬛传:“世界又与我有关了” 26:01 谷歌实习:最早的“AI for code” 31:54 Databricks:人生导师Ion Stoica与“making impact”价值观 34:37 xAI:拥有“support”和“freedom”的美好v1.0时代 44:07 RadixArk:“两个月也等不了” 48:07 Two Sigma:“有组织的公司”应该有的样子 51:10 SGLang:“AI Infra是浪漫的” 01:15:29 SandHill Road的套路与规则 01:19:33 “养大我”的开源生态 01:27:03 LMSYS:平等、平权,以及“她赢了,不需要被解释” 01:37:42 “世间的美好是存在的”

【延伸阅读】 本期节目视频版已上线 ,附精校字幕及术语注解,适合想逐句细听的听友 “榨”出硅的极限:怎么让GPU不“闲着”?|与SGLang、RadixArk深聊AI Infra技术与千亿美元市场-硅谷101视频 及 文字版

【硅谷101听友群】 很多听友反馈没有加上我们的听友群,别急,新的入群通道已经安排上啦👏 之后我们入群二维码我们也会放在节目shownotes中,方便大家随时找到组织。 在这里,和同好一起深聊科技、商业与未来,期待你的声音,也期待更多有趣的讨论。 扫码加入,即刻相遇。

【硅谷101正在招聘】 《硅谷101》招聘多个全职岗位,欢迎加入我们的超酷的深度内容工作团队! 👉🏻 点击查看招聘详情

【制片/总编辑】 陈茜 【采访】 陈茜 【剪辑】 Frentee Jacob 【视觉编辑】 王梓沁 【音频后期】 Amei 【运营】 孙泽平 13 朱婕 【BGM】 The Hoover Dam - Bonnie Grace Spring Dance - Forever Sunset Curiosity Cabinet - Mike Franklyn

【在这里找到我们】 公众号:硅谷101 收听渠道:Apple Podcast|Spotify|小宇宙|喜马拉雅|蜻蜓FM|荔枝FM|网易云音乐|QQ音乐 其他平台:YouTube|Bilibili 搜索「硅谷101播客」 联系我们: [email protected]

Special Guest: 盛颖.