RAG 入门:先搞清楚它解决不了什么

一、两个被混为一谈的问题

很多人搭知识库时,把召回不准和回答不好都归咎于模型,于是不断换更大的模型,效果却没变。实际上这是两个环节:检索负责找到相关片段,生成负责基于片段组织答案。前者出错,后者再强也只能在错误材料上写得流畅。

二、先把检索做对

从切分策略开始:按语义段落切,别按固定字数硬切;给每个片段带上标题与来源元数据,方便回溯。再做一次最朴素的评估——准备二十个真实问题,人工标出正确片段,看召回命中率。命中率上不来,调向量模型或加关键词混合检索,比调提示词有效得多。

三、再管住生成

明确要求只使用给定片段,资料不足就回答不知道并列出缺口,禁止自行补全事实。输出里带上引用位置,让使用者能一眼验证。这几条约束比任何华丽的角色设定都管用。

四、它解决不了什么

RAG 不解决原始数据脏乱、不解决权限隔离、也不自动判断资料是否过期。这些是数据治理问题。把边界写在前面,项目才不会在第二周变成互相甩锅。

#RAG#知识库#AI技能