检索增强生成在知识密集型自然语言处理任务中的应用
Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks
Patrick Lewis, Ethan Perez, Aleksandra Piktus, Fabio Petroni, Vladimir Karpukhin, Naman Goyal, Heinrich Küttler, Mike Lewis, Wen-tau Yih, Tim Rocktäschel, Sebastian Riedel, Douwe Kiela
arXiv (Cornell University) · 2020-05-22
摘要
大型预训练语言模型已被证实能够在其参数中存储事实性知识，在经过下游自然语言处理任务的微调后能够取得最优性能。然而，这些模型获取并精准操控知识的能力仍较为有限，因此在知识密集型任务中，其表现逊于针对特定任务设计的架构。此外，如何为其决策提供溯源依据以及更新其世界知识，仍是尚未解决的研究难题。具备可微访问机制的预训练模型若能调用显式的非参数化记忆，便可克服这一问题，但迄今为止相关研究仅局限于提取类下游任务。我们探索了一种通用的检索增强生成（RAG）微调方案——这类模型将预训练的参数化记忆与非参数化记忆相结合用于语言生成。我们提出的RAG模型中，参数化记忆为预训练的序列到序列模型，非参数化记忆则是基于维基百科构建的密集向量索引，可通过预训练的神经检索器进行访问。我们对比了两种RAG实现方式：一种是在整个生成序列中均依赖相同的检索段落，另一种则能为每个词元调用不同的段落。我们在各类知识密集型自然语言处理任务上对模型进行微调和评估，最终在三项开放域问答任务中刷新了最优性能纪录，其表现优于参数化序列到序列模型以及针对特定任务设计的检索-提取架构。在语言生成任务中，我们发现RAG模型生成的语言比当前最优的参数化序列到序列基线模型更具针对性、多样性且事实准确性更高。
本摘要由 AI（Hy-MT2-Pro）翻译生成，仅供参考，请以原文为准。
AI 综述
基于全文生成- 主要观点
- 论文的核心论点是：将预训练的参数化记忆（BART-large 生成器）与显式的非参数化记忆（维基百科稠密向量索引，经 DPR 检索器访问）结合，并通过端到端微调形成通用的检索增强生成（RAG）方案，可在知识密集型 NLP 任务上同时获得生成灵活性与检索式系统的知识可访问性。作者提出 RAG-Sequence 与 RAG-Token 两种边缘化形式：前者对整个输出序列使用同一检索段落，后者允许每个目标 token 依赖不同段落，从而在生成中组合多文档内容。研究对象覆盖开放域问答（NQ、TriviaQA、WebQuestions、CuratedTrec）、抽象问答（MSMARCO NLG）、Jeopardy 问题生成与 FEVER 事实核查，问题域被界定为人类若无外部知识源便难以完成的知识密集型任务。支撑性论断包括：RAG 在开放域问答上优于纯参数化 seq2seq 与任务特定的 retrieve-and-extract 架构；在生成任务上比 BART 基线更具体、更多样、更符合事实；非参数化记忆可替换以更新模型知识，并可为检索内容提供可检查的来源。
- 研究方法
- 论文采用通用的端到端微调路径：以 DPR 的 bi-encoder 作为检索器（BERTBASE 查询编码器与文档编码器），以 BART-large 作为生成器，将检索到的文档视为潜变量，通过 top-K 近似对序列级或 token 级似然进行边缘化，并以负边缘对数似然训练查询编码器与生成器联合更新。非参数化记忆由 2018 年 12 月维基百科 dump 构成，按每篇文档切分为不重叠的 100 词块，共 21M 文档，使用 FAISS 与 Hierarchical Navigable Small World 近似构建 MIPS 索引，训练时 k 取 5 或 10。训练中固定文档编码器与索引，仅微调查询编码器和 BART 生成器；RAG-Sequence 采用 Thorough Decoding 或 Fast Decoding 处理序列级边缘化，RAG-Token 则将边缘化后的转移概率接入标准 beam decoder。实验材料包括四个开放域 QA 数据集的 EM 评分、MSMARCO NLG v2.1 的 BLEU 与 Rouge-L、SearchQA 划分下的 Jeopardy 生成（100K 训练、14K 开发、27K 测试）及 Q-BLEU-1 与 452 对人工成对评估、FEVER 的三分类与二分类标签准确率，并辅以冻结检索器、BM25 替换检索器、生成多样性 distinct n-gram 比例与检索文档后验分析等消融。
- 学术贡献
- 在理论建构层面，论文把参数化记忆与非参数化记忆的组合从开放域抽取式问答推进到 seq2seq 生成，提出 RAG-Sequence 与 RAG-Token 两种对潜文档进行边缘化的概率形式，为知识密集型生成提供了可端到端微调的建模范式。在方法创新层面，论文将预训练 DPR 检索器与 BART 生成器联合微调，并在不直接监督应检索哪篇文档的条件下训练，FEVER 实验也显示无需检索证据监督即可取得接近强流水线系统的标签准确率。在材料与系统层面，论文构建了基于 21M 维基百科 100 词块的稠密向量索引，并给出 Thorough/Fast 两种解码与索引热替换路径，使非参数化记忆的知识更新与检索内容检查成为模型内置能力。在领域拓展层面，论文把 RAG 应用于开放域 QA、抽象问答、Jeopardy 问题生成与事实核查，报告在 NQ、WebQuestions、CuratedTrec 等开放域 QA 上取得当时最优，并显示生成文本在事实性与多样性上优于纯参数化 BART 基线。
- 存在局限
- 检索器并非从零训练：材料明确说明 RAG 的检索器由 DPR 初始化，而 DPR 在 Natural Questions 与 TriviaQA 上使用了检索监督，因此“无检索监督”的结论主要适用于下游微调阶段，不能直接推广到完全没有检索监督的初始化条件。训练时文档编码器与索引保持固定，仅更新查询编码器和生成器，这使非参数化记忆的表示无法随任务调整，材料也未报告周期性更新文档索引后的训练效果。RAG-Sequence 的 Thorough Decoding 在长输出上需要为候选假设对未覆盖文档执行额外前向计算，Fast Decoding 则以近似牺牲部分边缘化精度，材料未系统给出长序列生成下两种解码的质量—成本对比。任务覆盖仍以维基百科 2018 年 dump 为唯一非参数化知识源；MSMARCO 实验因不使用金标段落而性能受限，且材料承认部分问题无法仅靠维基百科回答；FEVER 三分类与强流水线仍有 4.3% 差距，二分类与使用金标证据的 RoBERTa 模型仍有 2.7% 差距，BM25 检索在 FEVER 上反而优于可微检索。
- 进一步研究方向
- 可在保持端到端目标的前提下，周期性更新文档编码器与 FAISS 索引，或以不同时间切片的维基百科 dump 构建索引热替换实验，验证知识更新对开放域 QA 与 FEVER 标签准确率的影响。可设计检索监督消融：分别以 DPR 监督初始化、弱监督初始化与无监督初始化训练查询编码器，在 NQ、TriviaQA 与 FEVER 上比较可微检索与 BM25 的差异，并检验 FEVER 的实体中心特征是否解释 BM25 优势。可针对 RAG-Sequence 的长输出解码，系统比较 Thorough Decoding 与 Fast Decoding 在 MSMARCO 与 Jeopardy 生成上的事实性、多样性与前向计算量，建立解码近似误差与生成质量的对应关系。可利用 Jeopardy 生成中已观察到的文档后验变化，设计受控输入以区分参数化记忆与检索记忆的贡献，例如固定检索文档、遮蔽文档关键词或替换索引条目，检验生成器在何时依赖检索内容、何时依赖 BART 内部知识。还可扩大人工成对评估的规模与任务类型，在事实性与具体性之外加入来源可追溯性标注，检验检索段落与生成陈述之间的对应关系。
本综述由 AI（deepseek-flash）阅读开放获取全文自动生成，仅供参考，不代表原文作者观点，请以原文为准。
参考文献
相关论文
话题：Safety Systems Engineering in Autonomy