arXiv cs.CL· Yuning Bian, Lele Xu, Yifan Yuan, Xinyu Yin, Chengyan Zhan·· 6 小时前AI 评分68
论文实测文档修订下三种分块策略的重计算成本与检索质量差异
Chunk Recomputation under Real Document Revisions: Measuring Update Cost and Retrieval Quality of Fixed, Recursive, and Content-Defined Chunking
AI 摘要
该研究针对RAG系统中知识库文档持续变更的场景,首次量化了不同分块策略在真实修订下的更新成本。通过对120对中英文维基百科修订版本进行实验,研究发现固定大小分块在严格字节复用规则下需重计算57-68%的新版嵌入工作量,递归分块为38-56%,内容定义分块为43-54%。尽管在2048-token检索预算下,各策略的证据召回率差异小于两个百分点,但边界漂移导致的重计算成本构成了显著且对参数敏感的维度。
实验细节显示,非重叠固定大小分块在所有长度匹配条件下均具有最高的重计算成本,而内容感知分块的排名随分块长度设置变化。内容定义分块在中文文章上出现了4次失败(共62篇)。作者通过受控编辑和逐字存在诊断,证实边界漂移是已存在文本被重新嵌入的主要贡献者之一。这些发现基于冻结的稠密编码器和长度校准参数,排除了模型本身变化的干扰。
事实层面,静态评估往往忽略文档变更带来的隐性工程开销;推断层面,这意味着当前RAG系统的运维成本可能被低估,特别是在高频更新的文档库中;猜测层面,未来RAG基准测试可能需要纳入动态修订场景的指标。对于工程实践,选择分块策略时不能仅看检索精度,必须权衡文档更新频率带来的重计算负载。
来源:arXiv cs.CL · arxiv.org