RAG正在烧钱——我构建了一层成本控制机制来修复它
RAG系统在生产中常因上下文过取、无缓存、无模型路由导致成本激增;作者构建成本控制层,通过语义缓存(98.5%命中率)、查询路由(81%请求转向低成本模型)与令牌预算熔断机制,在10,000请求/日下实现85.8%成本削减且质量不变。
入选理由:上下文过取使每查询平均多消耗350 tokens,10k请求/日造成$52.5/日浪费(按$0.015/1K tokens计)
公司
别名:TDS
技术博客平台,发布数据科学与AI领域实践文章
已跟踪 23 条高相关材料
最近变化
2026-07-15 · 构建黄金数据集需包含问题、正确答案及来源文档三要素
为什么值得关注
Towards Data Science 被反复提及时,通常意味着它正在影响产品路线、开发者工作流或 AI 产业判断。这个页面把分散材料合并成一个可持续更新的观察入口。
RAG Is Burning Money — I Built a Cost Control Layer to Fix It
Towards Data Science · 9.2 分
RAG系统在生产中常因上下文过取、无缓存、无模型路由导致成本激增;作者构建成本控制层,通过语义缓存(98.5%命中率)、查询路由(81%请求转向低成本模型)与令牌预算熔断机制,在10,000请求/日下实现85.8%成本削减且质量不变。
From Regex to Vision Models: Which RAG Technique Fits Which Problem
Towards Data Science · 9 分
RAG 技术并非万能,应根据文档结构和问题控制程度选择合适方法:模板化文档用正则表达式,客服对话需 LLM 判断语调,工程图纸必须使用视觉模型。
RAG Is Not Machine Learning, and the ML Toolkit Solves the Wrong Problem
Towards Data Science · 8.7 分
RAG 不是机器学习,使用 ML 工具包解决的是错误问题。文章指出,尽管 RAG 看似类似 ML,但其核心是构建搜索系统而非训练模型,因此超参数调优、嵌入模型微调等 ML 方法无法解决 RAG 的真实故障,反而导致资源浪费和信任下降。
已收录 23 条与 Towards Data Science 相关的内容,按评分排序。
RAG系统在生产中常因上下文过取、无缓存、无模型路由导致成本激增;作者构建成本控制层,通过语义缓存(98.5%命中率)、查询路由(81%请求转向低成本模型)与令牌预算熔断机制,在10,000请求/日下实现85.8%成本削减且质量不变。
入选理由:上下文过取使每查询平均多消耗350 tokens,10k请求/日造成$52.5/日浪费(按$0.015/1K tokens计)
RAG 技术并非万能,应根据文档结构和问题控制程度选择合适方法:模板化文档用正则表达式,客服对话需 LLM 判断语调,工程图纸必须使用视觉模型。
入选理由:模板化文档(如保险单、银行流水)适合用正则表达式提取字段,避免使用高成本的 RAG 流程。
RAG 不是机器学习,使用 ML 工具包解决的是错误问题。文章指出,尽管 RAG 看似类似 ML,但其核心是构建搜索系统而非训练模型,因此超参数调优、嵌入模型微调等 ML 方法无法解决 RAG 的真实故障,反而导致资源浪费和信任下降。
入选理由:RAG 解决的是确定性答案查找问题,而非预测未知结果,因此不能用 ML 方法优化。
RAG系统中嵌入向量并非魔法,其失败模式高度可预测:当查询与文档使用不同术语(如“overtime” vs “non-employee labor”)、含否定词、或依赖精确编号/代码时,检索会失效;文章强调企业级可靠性应优先依赖上游过滤(如专家关键词、结构化元数据),而非堆叠重排序器。
入选理由:嵌入模型在处理同义词/拼写变体时表现优异(如‘cancel’→‘termination procedures’),但对术语不一致问题无能为力
Proxy-Pointer RAG 通过保留文档结构上下文,将知识图谱实体与关系匹配的计算成本降低 90% 以上,实现高效、低延迟的图谱入管,解决了大规模知识图谱的语义蔓延问题。
入选理由:Proxy-Pointer RAG 使用 Skeleton Tree 和 Breadcrumb Injection 技术,使向量检索能精准定位文档完整结构段,而非碎片化块。
持续评估是构建可靠RAG系统的关键,通过黄金数据集、自动化工具和人工审核可有效检测系统缺陷。
入选理由:构建黄金数据集需包含问题、正确答案及来源文档三要素
自编码器通过编码-解码结构实现数据压缩,其瓶颈层的潜在表示是关键。文章详解了其工作原理与训练逻辑。
入选理由:自编码器由编码器、瓶颈层和解码器组成,用于数据压缩与特征提取
数据分析职业需转向业务理解与判断力,AI将模糊角色界限但不会取代分析价值。
入选理由:AI工具如Copilot使非技术人员可完成数据可视化任务,基础技术门槛降低
企业需通过目的、原则和实践三维对齐机制,确保代理AI行为符合组织意图,防止自主性引发的内部威胁。
入选理由:定制对齐需结合企业目的、原则和实践三维度,确保AI行为符合组织意图。
小样本和高维数据易产生虚假相关性,理解其几何机制可提升数据分析的可靠性。
入选理由:小样本中变量独立时样本相关性仍可能达到0.62
成本优化路由层虽降低AI成本,但导致产品质量下降和用户满意度下滑,需警惕Pareto陷阱。
入选理由:分类器模型误判率高达35%,导致复杂查询被错误路由至低价模型
神经网络通过激活函数建模复杂数据,本文用简单数据集解释其工作原理。
入选理由:使用简单数据集可以更清晰地理解神经网络的内部机制。
无需对PDF中所有图片进行模型调用,即可实现图像内容的可搜索性,通过分层过滤和OCR技术降低成本。
入选理由:使用图像大小和形状作为初步过滤条件,可排除无检索价值的图片。
通过自定义CUDA内核将检索过程保留在GPU上,可实现多跳RAG的微秒级延迟,比CPU基线快8.6倍。
入选理由:将检索循环保留在GPU上,可消除PCIe传输税,实现8.6倍的加速。
AI技术的财务可持续性面临挑战,企业过度使用导致成本激增,需重新评估其商业价值。
入选理由:企业过度使用AI工具导致巨额成本,如Uber的AI令牌支出令人震惊。
构建一个个性化、创新、相关且可实际运行的机器学习项目,是获得2026年数据科学职位的关键。
入选理由:优秀的机器学习项目需具备个性化、创新性、相关性和实际运行性。
RAG系统在生产环境中常见错误包括解析失败、忽略文档结构、固定窗口分块等,影响检索精度。
入选理由:解析文档时应保留结构,避免将表格转换为字符串。
神经网络在拟合高频率函数时存在“频谱偏差”,即优先拟合低频部分,导致训练效率低下。本文从不同角度分析了这一现象,并提出了解释。
入选理由:神经网络在拟合高频率函数时需要更多训练轮次,导致效率低下。
FPN通过引入Neck结构融合多尺度特征,解决了目标检测中小物体识别难题。文章详解了Backbone-Neck-Head架构演进,并提供从零实现FPN及连接CNN与RPN的代码指南,是理解现代检测模型小目标优化机制的必读材料。
入选理由:FPN作为Neck组件位于Backbone与Head之间,通过特征增强机制显著提升小物体检测精度。
地理空间ML建模的核心瓶颈是昂贵的实地样本而非算力,解决小样本问题需通过多源特征工程提升单样本信息密度,并优先选用Random Forest等低方差模型控制过拟合风险。
入选理由:亚马逊雨林单个森林清查样地成本相当于一台ML训练计算机,实地标签稀缺是核心约束。
Chronos-2时间序列基础模型可通过LoRA微调解决零样本预测偏差,文章详解了单建筑适配、组合池化、协变量注入等五种实战场景及数据划分规范。
入选理由:使用LoRA冻结120M参数主模型,仅训练低秩适配器以高效适配私有数据。
梯度下降演变为随机梯度下降(SGD)的核心动因是:当数据规模增大时,传统批量梯度下降(BGD)计算成本过高,而SGD通过每次仅用单个样本或小批量更新参数,显著降低计算开销并引入噪声扰动,反而有助于跳出局部极小值;文章以线性回归为例,从MSE损失函数推导出解析解,并自然引出梯度下降的必要性。
入选理由:线性回归中β₀=27315.74、β₁=9020.66的解析解可通过MSE对β₀/β₁求偏导并令其为0推导得出
机器学习模型在预测世界杯比赛结果上表现有限,86%的主场胜利预测表明模型存在偏差。
入选理由:使用了包括多元回归、LightGBM等模型进行预测。