传统RAG技术面临的挑战与解决方案

传统RAG技术面临的挑战与解决方案

引用

CSDN

1.

https://blog.csdn.net/weixin_43145427/article/details/140054949

检索增强生成（RAG，Retrieval Augmented Generation）技术旨在将信息检索与大模型相结合，以缓解大模型推理时可能出现的“幻觉”问题。RAG通过将检索到的文档作为上下文提供给大模型，以生成更可靠的答案。近年来，关于RAG的研究日益活跃，支持RAG的开源框架层出不穷，并在多个专业领域催生了AI工程应用。

传统RAG面临的挑战

传统RAG技术虽然通过知识库增强了大模型的问答能力，但仍存在以下问题：

1. 知识库内容缺失：现有文档无法回答用户问题，系统有时会误导性地给出错误答案，理想情况下应回应“抱歉，我不知道”。

2. TopK截断问题：与用户查询相关的文档因相似度不足而被TopK截断，反映出相似度度量的不精确性。

3. 上下文整合丢失：检索到的包含答案的文档可能因重排序或过滤规则而未能整合到上下文中。

4. 有用信息识别困难：受限于大模型的能力，有价值的文档内容可能因上下文中的噪音或矛盾信息而未被正确识别。

5. 提示词格式问题：提示词的指令格式不当可能导致大模型无法准确理解用户意图。

6. 准确性不足：大模型可能过度或不足利用上下文信息，例如在教育资源查询时过分关注具体教师而非整体资源。

7. 答案不完整：仅基于上下文生成的答案可能不够完整，例如在总结多个文档观点时需要分别提问并总结。

解决方案

这些问题可以通过以下技术手段来解决或缓解：

• 问题1-3：属于知识库工程层面的问题，可通过完善知识库、增强知识确定性和优化上下文整合策略来解决。
• 问题4-6：属于大模型自身能力问题，依赖于大模型的持续训练和迭代。
• 问题7：属于RAG架构问题，引入Agent的规划能力是更有前景的解决方案。

展望

传统RAG技术正逐步与提示词工程、模型微调、知识图谱和智能体等技术融合，形成更广泛的RAG问答链路框架。这种融合不仅提升了系统的整体性能，也为AI应用的多样化发展提供了更多可能性。