RAG 解决的是什么问题
检索增强生成(RAG)把“模型参数里的知识”与“企业当前可访问的资料”分开。系统先检索证据,再让模型基于证据回答,并把来源返回给读者。它不能自动解决权限、文档质量或事实冲突,但能让更新频率和引用边界更可控。
参考架构
文件/网页 -> 解析与清洗 -> 分块 -> embedding -> 向量索引
| |
+-> ACL/来源/时间元数据 ----------------+
v
用户问题 -> 查询改写 -> 混合检索 -> 重排 -> 证据窗口 -> 生成与引用
分块不是越小越好。一个可用起点是 400–800 个 token,并保留标题、路径、更新时间和访问控制标签。表格、代码和 FAQ 往往需要按语义单独处理。
检索质量比模型大小更先决定结果
先建立离线评测集:每个问题配一组“应该命中的文档”和不可接受的答案。记录 recall@k、MRR、引用覆盖率和拒答准确率。混合检索把关键词检索和向量检索组合起来,重排模型再对前几十条候选排序。
回答阶段要求模型只使用证据窗口,并在证据不足时明确拒答:
if evidence.isEmpty() or evidence.confidence < threshold:
return "当前资料不足,无法确认。"
return answer_with_citations(evidence)
权限、更新与成本
ACL 必须在检索前过滤,不能先召回再靠提示词隐藏。文档更新后要能定位受影响的 chunk 并重建索引;删除或撤销权限的资料也要从索引中移除。Embedding、重排和生成分别计量,缓存查询改写和稳定证据集,避免把每次追问都当成全新请求。
进一步阅读
可参考 Retrieval-Augmented Generation 原论文、OpenAI embeddings 指南 和 pgvector 文档。
