清华大学揭露RAG的双面性：全面分析揭示大模型中RAG噪声的作用

清华大学揭露RAG的双面性：全面分析揭示大模型中RAG噪声的作用

引用

51CTO

1.

https://www.51cto.com/aigc/1989.html

在大型语言模型（LLMs）的研究与应用中，噪声问题一直是一个不容忽视的挑战。这些模型在处理复杂的语言理解和生成任务时，往往需要从海量的数据中提取有用信息。然而，互联网上充斥着各种非标准的噪声信息，如AI生成的虚假新闻、过时内容、拼写错误等，这些噪声可能会影响模型的性能。为了解决这一问题，近年来，检索增强生成（Retrieval-Augmented Generation, RAG）技术应运而生。

RAG技术简介

Retrieval-Augmented Generation (RAG) 是一种新兴的技术，旨在通过从外部来源检索额外信息来增强大型语言模型（LLMs）的性能。这种方法通过在推理过程中增加输入信息来提高模型的表现。尽管互联网充斥着各种非标准噪声，如AI生成的假新闻、过时内容、拼写错误和数据污染，这些噪声可能会影响模型的性能。因此，探索噪声如何影响RAG系统并理解其背后的机制变得至关重要。

噪声的分类与影响

噪声的分类

在RAG系统中，噪声可以分为七种类型，从语言学角度进一步分为有益噪声和有害噪声两个实际应用组。有益噪声包括语义噪声、数据类型噪声和非法句子噪声，而有害噪声则包括反事实噪声、支持性噪声、正字法噪声和先验噪声。

• 语义噪声：检索文档可能包含与查询低语义相关的内容，通常偏题或偏离预期意义。
• 数据类型噪声：这种噪声指的是网络上不同数据类型的混合，例如维基百科上链接和文本的混合。
• 非法句子噪声：网络内容可能包括不形成语法正确句子的片段。
• 反事实噪声：互联网包含大量虚假信息，包括假新闻和过时知识，这对RAG系统构成了重大挑战。
• 支持性噪声：支持性证据，即高度与假设语义相关且提供支持信息的文档。
• 正字法噪声：指的是写作错误，如拼写错误和词语延长。
• 先验噪声：在语言学中，先验知识指的是学习者在解决问题前已经知道的信息。

噪声的影响

• 有害噪声：通常会损害性能。例如，反事实噪声通过破坏准确的事实辨识和答案生成，显著影响模型性能。
• 有益噪声：可能会增强模型的某些能力和整体性能。例如，非法句子噪声在多个数据集上显示出显著的性能改进，平均提高了模型准确率3.32%。

通过这些分类和影响的分析，我们可以更好地理解和利用RAG系统中的噪声，以提高模型的鲁棒性和适应性。

NoiserBench：一个全新的噪声RAG基准

在当前的研究中，我们提出了一个名为NoiserBench的新型噪声RAG基准。这一基准旨在全面评估不同类型的噪声对大型语言模型（LLMs）的影响。我们从语言学角度定义了七种不同的噪声类型，并将其分为两大类：对LLMs有益的噪声（beneficial noise）和对LLMs有害的噪声（harmful noise）。

噪声类型定义：

• 有益噪声：包括语义噪声（Semantic Noise）、数据类型噪声（Datatype Noise）和非法句子噪声（Illegal Sentence Noise）。
• 有害噪声：包括反事实噪声（Counterfactual Noise）、支持性噪声（Supportive Noise）、拼写噪声（Orthographic Noise）和先验噪声（Prior Noise）。

基准构建：

NoiserBench的构建涉及多个步骤，包括问题答案实例生成、蕴含验证、噪声引入和测试床构建。我们利用ChatGPT生成相关的问题和答案，并通过自然语言推理模型确保证据的有效性。此外，我们还模拟了各种噪声，以创建多样化的检索文档，并将这些文档转换为多项选择题形式，以便于自动评估。

实验结果与分析

在NoiserBench上，我们对八种不同架构和规模的代表性大型语言模型进行了评估。实验结果显示，不同类型的噪声对模型性能的影响存在显著差异。

有益噪声的影响：

• 数据类型噪声和非法句子噪声通常能够提高模型的性能，这表明它们可以帮助模型更好地理解和处理输入信息，从而提高答案的准确性和可靠性。
• 语义噪声虽然被归类为有益噪声，但其对模型性能的正面影响相对较小。

有害噪声的影响：

• 反事实噪声和支持性噪声对模型性能有显著的负面影响，它们会误导模型，导致错误的信息检索和答案生成。
• 拼写噪声和先验噪声虽然也属于有害噪声，但它们的影响相对较小。

通过这些实验，我们不仅揭示了不同噪声类型对大型语言模型的具体影响，还展示了如何通过系统地引入和管理噪声来提高模型的鲁棒性和适应性。这些发现为未来的研究提供了重要的视角和工具，有助于开发出更加健壮和有效的RAG系统。

讨论与未来展望

在本研究中，我们对大型语言模型（LLMs）中的检索增强生成（RAG）噪声进行了全面分析。我们发现，噪声可以分为有益噪声和有害噪声两大类。有益噪声，如语义噪声、数据类型噪声和非法句子噪声，可以提高模型的性能，增强模型对正确信息的识别能力，从而提高回答的准确性。相反，有害噪声，如反事实噪声、支持性噪声和拼写错误噪声，则会降低模型的性能。

这项研究为开发更健壮、适应性更强的RAG解决方案提供了重要洞见，并在多样化的检索场景中减轻幻觉现象。未来的研究可以进一步探索如何利用有益噪声来增强模型性能，同时开发更有效的策略来减少有害噪声的影响。

论文标题：Pandora’s Box or Aladdin’s Lamp: A Comprehensive Analysis Revealing the Role of RAG Noise in Large Language Models
机构：Tsinghua University, Beijing, China
论文链接：https://arxiv.org/pdf/2408.13533.pdf