How HubSpot Scaled Semantic Search to 20 Billion Vectors
TL;DR · AI 摘要
HubSpot通过自研VaaS平台和Qdrant实现200亿向量管理，用Translators自动化集群操作，解决大规模语义搜索的扩展难题。
核心要点
- Qdrant支持200亿向量管理，峰值写入达10万请求/秒
- Translators每60秒同步系统状态实现集群自动化
- Kubernetes Operator替代Helm应对复杂状态管理
结构提纲
按章节快速跳转。
思维导图
用一张图看清主题之间的关系。
查看大纲文本（无障碍 / 无 JS 友好）
- 大规模向量搜索扩展
- 平台架构
- VaaS + Qdrant
- 关键技术
- Translators自动化运维
- Kubernetes Operator
- 性能指标
- 200亿向量管理
- 10万TPS写入
金句 / Highlights
值得收藏与分享的关键句。
Manual operations don't survive growth.
Qdrant支持named vectors和multi-stage querying
Translators实现集群自动创建/销毁和分片迁移
HubSpot如何将语义搜索扩展至200亿向量 - InfoQ
InfoQ 首页 News HubSpot如何将语义搜索扩展至200亿向量
DevOps
面向代理时代的工程实践：如何规范、构建、测试和运营AI驱动系统（7月16日网络研讨会）
HubSpot如何将语义搜索扩展至200亿向量
2026年7月7日 3分钟阅读
作者：
- Matt Saunders
#### 关注我们
Youtube
232K 粉丝
26K 粉丝
新
RSS
19K 读者
X
57.1k 粉丝
21K 点赞
Bluesky
收听本文音频 -
0:00
音频准备就绪
您的浏览器不支持音频元素。
正常
1.25x
1.5x
喜欢
新下拉阅读列表
- 阅读列表
SaaS软件供应商HubSpot描述了其语义搜索平台如何从概念验证发展为内部服务，目前该服务为38多个团队管理着超过200亿向量。公司表示，该系统现在支持代理、RAG和联系人去重，而代理使用量的增加使得检索质量和延迟比以往更加重要。
HubSpot在其网站上的文章解释称，该平台名为VaaS（向量即服务），位于Qdrant之前，提供访问控制、嵌入生成、数据版本管理和反馈收集功能。HubSpot表示选择Qdrant是因为其可部署在本地，支持命名向量、混合搜索、多阶段查询和加权重排序等功能，并提供包括量化和磁盘存储在内的成本控制措施。
HubSpot还表示，他们选择在内部运行Qdrant，这使得其能够与内部的追踪、成本跟踪、速率限制、扩展和安全工具集成，同时保持对客户数据的控制。公司表示，当前平台覆盖超过200个索引、140多个集群、五个地区和两个环境，写入流量峰值达到每秒10万次请求。
在文章中，Oleg Tereshin和Xin Liu写道，早期的架构是用Helm和少量消费者构建的，但随着集群规模的增长，手动管理变得越来越困难。他们表示，团队转向了内部的Kubernetes Operator框架，因为Helm无法进行API调用、根据外部指标自动扩展或处理更复杂的有状态生命周期工作。
“手动操作无法应对增长。”——Oleg Tereshin和Xin Liu
这一转变将集群管理转移到了HubSpot称为“转换器”（Translators）的系统中，该系统每60秒对齐一次系统的期望状态和实际状态。文章称，这种方法现在可以自动创建和退役集群、移动分片以及恢复复制，同时减少了团队的运营负担。
其他向量搜索系统也面临着同样的压力。Qdrant自己的大规模部署指南专注于在保持延迟和生产环境准确性的同时，对数亿向量进行调优，这印证了HubSpot的观点，即扩展不仅关乎检索质量，同样也关乎运营。
其他实践者也得出了类似的结论。Pinecone的一篇LinkedIn帖子描述了从4000万向量扩展到6亿向量的案例，建议保持高召回率、分离存储和计算，并将可靠性视为一个特性。而另一篇关于向量搜索的生产环境文章则推荐使用版本化索引、过滤感知设计，并仔细监控召回率和延迟。
“召回率是关键。”——Pinecone在LinkedIn上的帖子
这些主题与HubSpot强调的平衡分片放置、避免内存倾斜以及利用自动化控制运维工作的理念相契合。公司表示，某些集合包含数十亿个数据点，即使一个不平衡的分片也可能迫使集群在真正需要之前进行扩展。
HubSpot还表示，这一转变将集群启动时间从小时级缩短到分钟级，并消除了对备用集群的需求。它补充说，相同的协调模型现在可以处理水平扩展、分片再平衡和复制恢复，这使得平台在需求增长时更易于操作。
更广泛的趋势在向量搜索市场中显而易见，各团队正越来越多地尝试在不牺牲性能的前提下简化检索系统。InfoQ最近报道了OpenSearch、PlanetScale和AlloyDB的向量搜索功能增强，所有这些案例都指向相同的趋势：开发者希望在靠近数据的位置实现语义检索，并拥有足够的控制能力来调整成本和延迟。
对HubSpot而言，关键点不在于向量本身是否新颖，而在于围绕它的基础设施现在必须表现得像一个成熟的平台服务。文章明确指出，一旦检索成为多个AI产品的核心，数据库本身只是问题的一部分。更具挑战性的任务是围绕它构建足够的自动化系统，以在需求持续增长时保持系统稳定。
关于作者
#### Matt Saunders
显示更多
显示更少
#### 本内容属于DevOps主题
##### 相关主题：
- DevOps
- 扩展性
- 向量数据库
- 相关编辑内容
- 相关赞助商 AI Agent Swarm Patterns（InfoQ网络研讨会）- 立即观看录像
- 相关赞助商 在全球最广泛采用的基于Actor的运行时上构建和运行数据、API和智能体AI服务。Akka服务具有弹性、敏捷和韧性。了解更多。
InfoQ新闻通讯
每周内容精选，每周二发送。加入超过25万名高级开发者的社区。查看示例
我们保护您的隐私。