Uber Eats Rebuilds Search Pipeline to Cut End-to-End Latency by 50%

Uber Eats 重构搜索流水线将端到端延迟降低 50% - InfoQ

InfoQ 首页 News Uber Eats 重构搜索流水线将端到端延迟降低 50%

架构与设计

QCon 旧金山（11 月 16-20 日）：深度技术会议。改变你思维方式的同行对话。

Uber Eats 重构搜索流水线将端到端延迟降低 50%

2026 年 10 月 2 日 2 分钟阅读

作者：

• Leela Kumili

#### 关注我们

Youtube

232K 粉丝

Linkedin

26K 粉丝

Instagram

新

RSS

19K 读者

X

57.1k 粉丝

Facebook

21K 点赞

Bluesky

收听本文 -

0:00

音频准备就绪

您的浏览器不支持音频元素。

正常

1.25x

1.5x

喜欢

新下拉阅读列表

• 阅读列表

Uber 重构了 Uber Eats 搜索流水线的主要部分，并报告端到端搜索延迟降低了 50%。这些改进涉及检索、特征注入、排序、广告、展示和基础设施，同时还使用了代理式编码工作流来识别、基准测试和验证额外的优化。

这项工作始于主要延迟指标的改变。Uber 不再关注后端 API 响应时间，而是开始测量“首屏完成时间”，即首次渲染结果页面（含图片）所需的时间。通过服务器端缓存分页减少了初始响应时间，而异步渲染允许结果项并行处理。Uber 报告称，这些改进使首屏延迟降低了超过 200 毫秒。

Uber Eats 搜索流水线架构（来源：Uber 博客文章）

Uber 在发现数以万计的候选结果在排序前被注入并最终被丢弃后，减少了检索工作量。移除低价值检索策略节省了约 120 毫秒，而产品级嵌入向量使数据查询次数减少超过 100 倍，又节省了 50 毫秒。将排序注入与展示数据分离使延迟降低超过 100 毫秒，依赖项移除和请求对冲分别贡献了额外的 35 毫秒和 40 毫秒。通过列式竞价数据、内存访问和减少序列化，广告路径的重新设计使延迟降低约 130 毫秒。基础设施改进包括并行编码、更小的嵌入向量、连接管理优化以及 Go 数据结构变更以减少垃圾回收开销。

该方法引起了公开讨论这项工作的工程师们的关注。Anubhooti Nagar 将性能挑战描述为：

更重要的不是做事情更快，而是做更少的工作并避免不必要的等待。

Nagar 还强调了 Uber 的

“测量-识别-修复-验证”循环作为持续性能优化的典范。

Pratik Dhanave 强调结果来自渐进式优化而非单一架构变更，他表示这背后没有单一的宏大构想，而是全栈范围内一系列谨慎决策的累积。他指出延迟测量、注入、广告和基础设施各环节的改进都是例证。

Vidya Pandey 将这些改进提炼为三个原则：做更少的工作。更早开始工作。移除不必要的依赖。Pandey 还将 Uber 计划采用的微批量处理方法与 AI 系统中用于减少处理阶段间同步的技术联系起来。

Uber 的变化基于其现有的搜索平台，该平台之前被描述为使用 Apache Lucene、基于 Spark 的索引、基于 Kafka 的流式更新以及分布式服务层。InfoQ 之前对 Uber 搜索架构的报道提供了关于该平台早期索引和查询执行工作的更多背景信息。

Uber 现在正在探索端到端微批次处理、基于产品的检索、Zero Pass 排名和 HTTP 多部分流式传输。公司报告称，早期基于产品的搜索测试已使 p99 延迟降低了 50% 以上。计划中的更改允许处理阶段重叠，而不是等待前面所有阶段完成。

作者信息主容器

关于作者

章节标题

每位作者信息的主容器

#### Leela Kumili

显示更多

显示更少

#### 本内容属于智能体 AI 架构主题

##### 相关主题：

• 开发
• 架构与设计
• AI、机器学习与数据工程
• 搜索引擎
• Apache
• Go 语言
• 设计系统
• Lucene
• 排名
• 缓存
• 智能体 AI 架构
• 低延迟
• 优化
• 性能与可扩展性
• Apache Kafka
• 搜索
• Uber
• 微批次处理
• 相关编辑内容
• 相关赞助商

• 相关赞助商 2026 年 10 月 29 日，东部时间上午 1 点 From Tokens to Features: Architecting Cost Attribution for AI-Assisted Engineering 由 Martin Reynolds（Harness 的现场首席技术官）呈现

InfoQ 新闻通讯

每周五汇总 InfoQ 上一周的内容，每周二发送。加入超过 25 万名高级开发者的社区。查看示例

我们保护您的隐私。 /think