向量数据库、Embedding 与语义搜索实践

AWS 推出基于 Amazon Nova 多模态嵌入的视频语义搜索方案，可联合处理音视频、文本等多源信号，提升检索准确性与效率。

文章系统解析现代稀疏神经检索模型（如SPLADE++），对比关键词与稠密检索优劣，并展示其在Qdrant中的实践应用。

文章详解如何使用 Sentence Transformers 微调多模态嵌入与重排序模型，并以视觉文档检索任务为例展示显著性能提升。

Gemini Embedding 2 正式发布，支持文本、图像、视频、音频和 PDF 的统一嵌入模型。

Weaviate测试文本与图像检索在RAG中的效果，发现两者各有优劣，多模态混合检索表现最佳。

sentence-transformers v5.4 新增多模态支持，可将文本、图像、音频和视频映射至统一向量空间，实现跨模态相似度计算。 多模态 Reranker 模型支持对混合模态文档对进行相关性打分，可直接用于构建跨模态检索与多模态 RAG 流水线。 使用多模态功能需按需安装依赖，且 VLM 类模型对 GPU 显存有明确要求（2B 约 8GB，8B 约 20GB），CPU 推理极慢。

Milvus通过语义搜索解决了Anthropic托管代理的记忆召回问题，提升了任务恢复和事件检索效率。

AWS 使用模型蒸馏技术将大模型的路由智能迁移到小模型，在视频语义搜索中降低95%成本、50%延迟，同时保持准确率。

向量量化通过压缩高维向量（如OpenAI嵌入）显著降低内存占用和搜索成本，Qdrant支持标量、乘积和二值化三种主要方法。

向量数据库专为高效处理高维向量数据而设计，支持基于语义相似性的检索，适用于推荐系统、RAG等AI场景。

Qdrant 新增 Distance Matrix API，支持高效计算高维数据距离矩阵，结合 UMAP 实现直观的无监督数据探索。

Weaviate 团队利用其 Query Agent 在 24 小时内构建了可投入生产的法律 AI 助手，支持精准检索与引用溯源。

Prompt engineering远不止“对ChatGPT友好”，核心技巧包括CoT、Few-shot、ToT和ReAct，组合使用可显著提升LLM表现。