链式检索增强生成
Chain-of-Retrieval Augmented Generation
Liang Wang, Haonan Chen, Nan Yang, Xiaolong Huang, Zhicheng Dou, Furu Wei
neural information processing systems · 2025-01-01
开放获取检索增强与智能体推理与思维链被引 28被引前 10%影响因子 ≈6.4
摘要
本文提出了一种训练类o1的RAG模型的方法，该模型在生成最终答案前逐步检索相关信息并进行推理。传统RAG方法通常在生成过程前仅执行单次检索步骤，由于检索结果存在不完美性，这限制了其在应对复杂查询时的有效性。相比之下，我们提出的CoRAG（链式检索增强生成）方法允许模型根据动态演变的状态对查询进行重新表述。为有效训练CoRAG，我们采用拒绝采样自动生成中间检索链，从而对仅提供正确最终答案的现有RAG数据集进行增强。在测试阶段，我们提出多种解码策略，通过控制采样检索链的长度与数量来扩展模型的测试时计算量。在多个基准上的实验结果验证了CoRAG的有效性，尤其在多跳问答任务中，与强基线相比，我们观察到EM分数提升了超过10个点。在KILT基准上，CoRAG在各类知识密集型任务中均取得了新的最先进性能。此外，我们提供了全面分析以理解CoRAG的扩展行为，为未来开发事实准确且基于事实依据的基础模型相关研究奠定基础。
本摘要由 AI（Hy-MT2-Pro）翻译生成，仅供参考，请以原文为准。
AI 综述
基于全文生成- 主要观点
- 论文针对传统RAG通常只在生成前执行单次检索、复杂查询因检索结果不完美而效果受限的问题，提出CoRAG（Chain-of-Retrieval Augmented Generation），让模型基于不断演进的推理状态动态改写查询、逐步检索并推理，最后生成答案。其核心论点是：通过拒绝采样自动生成中间检索链，可将仅含查询与最终答案的RAG数据集扩展为含子查询与子答案的训练数据；测试时再通过控制检索链长度与采样数量扩展测试时计算。实验支撑包括多跳问答任务上EM相对强基线提升超过10分，KILT基准上多数知识密集型任务取得新的state-of-the-art，并呈现token消耗与EM之间的近似log-linear Pareto frontier。
- 研究方法
- 论文用拒绝采样生成检索链：以Llama-3.1-8B-Instruct采样子查询，用E5-large检索top-k文档并生成子答案，迭代至最大链长L或子答案匹配正确答案，再按正确答案的条件对数似然选择链。训练采用Llama-3.1-8B-Instruct全参数微调，在统一多任务框架下同时优化下一子查询预测、子答案预测和最终答案预测三个目标。材料构成为多跳QA数据集2WikiMultihopQA、HotpotQA、Bamboogle、MuSiQue（编译后125k训练实例）与KILT基准（子采样后660k实例），检索语料为KILT英文维基百科约3600万段落。测试时比较贪心解码、温度0.7的best-of-N采样和BFS变体树搜索，并以平均token消耗衡量测试时计算；KILT提交还微调了E5-Mistral检索器与RankLLaMA重排器。
- 学术贡献
- 在方法层面，论文提出显式训练语言模型逐步检索与推理的CoRAG框架，并以拒绝采样自动构造中间检索链，针对RAG数据集通常缺少中间检索步骤这一数据瓶颈给出可复用的训练数据增强路径。在测试时计算层面，论文将贪心解码、best-of-N采样与树搜索纳入同一RAG解码框架，刻画EM与平均token消耗的Pareto frontier，为RAG中测试时计算分配提供可比较的实验依据。在实证层面，多跳QA上的EM提升与KILT hidden test上多数任务的新SOTA，验证了该范式对多跳问答和多样化知识密集型任务的价值；对迭代拒绝采样、不同检索器替换和弱到强泛化的消融，进一步细化了该训练范式的适用条件。
- 存在局限
- Bamboogle仅125个实例，跨运行方差较大，且部分问题需要比所用维基百科dump更新的知识，依赖商业搜索引擎的系统在该数据集上具有材料承认的优势。多跳QA比较中，CoRAG-8B经过数据集微调，而DRAG、IterDRAG等处于few-shot设置，材料明确承认这一训练优势使比较并非完全对等。测试时缩放分析做了简化：将prompt token与生成token等同计价并忽略检索成本，因此Pareto frontier的log-linear关系未计入真实检索开销。树搜索因计算成本显著高于贪心与best-of-N，材料未充分展开其缩放规律；迭代拒绝采样结果混合，仅2WikiMultihopQA提升而其他数据集略降。KILT上FEVER任务略低于11B参数模型，说明任务覆盖上仍存在未超越的强基线。
- 进一步研究方向
- 可按查询复杂度与检索器召回率分层，在MuSiQue等数据集上训练或设计动态分配策略，自适应选择检索链长度L与best-of-N的N，验证其能否在同等token预算下逼近或超过固定配置的Pareto前沿。可在128k token预算内对树搜索的扩展大小与rollout数做系统消融，比较其相对best-of-N的边际EM收益与检索调用成本。可将检索成本、prompt缓存折扣与生成token成本分别计入，重新拟合Pareto frontier，验证log-linear缩放关系在更细粒度成本模型下是否稳健。可用Llama-3.2-1B/3B等较弱模型生成检索链，系统比较弱到强泛化与GPT-4o蒸馏链条的训练效果，验证低成本链条构造路径。可在KILT各任务上复现迭代拒绝采样，按任务类型分析提升与下降条件，以确定该方法适用的任务边界。
本综述由 AI（deepseek-flash）阅读开放获取全文自动生成，仅供参考，不代表原文作者观点，请以原文为准。
参考文献
相关论文
话题：Topic Modeling