周志洋

个人站

持续学习 才能不被淘汰


Embedding与Rerank模型复测:知识库换模记

问题

多库 Embedding 不一致时无法调权重。换模前,在同一批文档(制度 + 运维 Runbook)上比较常用中文/多语 Embedding 和一档 Rerank 的召回。

看什么

  • 固定 50 条问答的 hit_rate(应命中文档是否进 TopK)
  • 单次 embedding 延迟、批量吞吐
  • 向量维度与磁盘/内存占用
  • Rerank 加上后 TopN 是否更稳,以及额外延迟

结论怎么用

选「效果够用、延迟可接受、团队只维护一个」的 Embedding,而不是榜上第一。换模 = 全库重建,要当变更做,错开 Chat 模型发版。

Rerank 适合多路召回后的融合,尤其临时多库并存时;不是免费午餐,QPS 高时要单独扩。

和 Dify

新建库强制同一 Embedding;旧库迁移列进变更窗。检索回归集留在仓库里,换模必跑——和聊天模型换版本时先放一小部分流量同一纪律,只是对象换成向量索引。


转载请注明:周志洋的博客 » Embedding与Rerank模型复测:知识库换模记

打赏一个呗

取消

感谢您的支持,我会继续努力的!

扫码支持
扫码支持
扫码打赏,你说多少就多少

打开支付宝扫一扫,即可进行扫码打赏哦