𝗟𝗟𝗠𝘀 𝗸𝗲𝗲𝗽 𝗰𝗶𝘁𝗶𝗻𝗴 𝘀𝗼𝘂𝗿𝗰𝗲𝘀 𝘁𝗵𝗮𝘁 𝗱𝗼𝗻'𝘁 𝘀𝗮𝘆 𝘄𝗵𝗮𝘁 𝘁𝗵𝗲𝘆 ...

Milvus on X: "大型语言模型引用了不支持其主张的来源。这是如何修复的。这种失败在任何高风险的RAG系统中都很常见：引用标记并不意味着被引用的段落支持主张。回答中带有干净的[1][2][3]标记，正确的文档在前五名中，一切看起来都有来源。然后你打开引用，被引用的段落并没有支持与之关联的句子。大多数团队会责怪生成层，更换模型，重写提示，添加更多指令。但实际上，很多引用错误并不是来自生成层。一个损坏的引用通常属于两个问题之一，修复的位置也不同。 • 一致性是指生成的文本本身是否是幻觉。模型说“150W的功耗”，但检索到的文档只说“低功耗”。150W是虚构的。在生成层进行修复：收紧提示约束，或更换基础模型。 • 引用准确性是指引用的元数据是否映射到正确的位置。标记指向了正确文档中的错误段落，或者指向了一个重新分块后已被删除的块ID。在工程层进行修复：引用解析和元数据管理，这与模型质量无关。引用准确性失败有五种形式： • 缺失引用：一个没有来源的事实陈述。修复输出格式和归属要求。 • 幽灵引用：被引用的块ID不再存在，通常是在索引重建后旧ID变为空闲，而提示模板仍然持续生成它们。修复ID生命周期，而不是模型。 • 弱支持引用：块存在但不支持主张。模型说“速率限制是每秒100次请求”，并引用了一个只提到“支持批量调用”的块。添加主张级别的蕴含检查，而不是信任标记。 • 过度引用：多个松散相关的来源堆叠在一个句子后面，这会稀释信任而不是建立信任。 • 文档级引用：归因于“文档A”但没有实际段落。对于长文档，这几乎无法验证。前三种是需要首先监控的。每种失败发生在不同的层，因此错误分类会导致你修复错误的系统。在更换模型之前，先检查你实际遇到的是哪种引用失败。一个显示引用标记但不验证任何引用的RAG系统，可能比完全没有引用的系统更糟糕。一个干净的[1][2][3]表面会使得错误、不准确或不支持的证据看起来可信。

3:30 PM · Jun 24, 2026

145

Views

1