使用DeepSeek+RAGFlow搭建垂直领域大模型

使用DeepSeek+RAGFlow搭建垂直领域大模型

引用

CSDN

1.

https://blog.csdn.net/qq_40358970/article/details/145542701

使用DeepSeek和RAGFlow搭建垂直领域大模型是一个复杂但非常有潜力的任务。垂直领域大模型是针对特定行业或领域进行优化和定制的大型语言模型。与通用大模型（如GPT-4）不同，垂直领域大模型专注于某一领域的专业知识、术语和任务，能够提供更精准、专业的输出。

一、基础流程

1. 理解DeepSeek和RAGFlow

• DeepSeek：这是一个用于深度学习和自然语言处理的框架，通常用于训练和优化大型语言模型。

• RAGFlow：这是一个基于检索增强生成（Retrieval-Augmented Generation, RAG）的框架，结合了检索和生成模型，适用于问答、对话等任务。

2. 确定垂直领域

首先，明确你要构建的垂直领域。例如，医疗、法律、金融等。确定领域后，收集相关的数据集和知识库。

3. 数据准备

• 数据集：收集和整理领域相关的文本数据，如论文、文档、FAQ等。

• 知识库：构建一个结构化的知识库，包含领域内的关键概念、实体和关系。

4. 模型选择与训练

• 预训练模型：选择一个适合的预训练语言模型（如GPT、BERT等）作为基础模型。

• 微调：使用领域特定的数据对模型进行微调，以提高其在垂直领域的表现。

5. 集成RAGFlow

• 检索模块：使用RAGFlow的检索模块，从知识库中检索相关信息。

• 生成模块：将检索到的信息输入到生成模型中，生成更准确和相关的回答。

6. 系统集成

• API开发：将模型和RAGFlow集成到一个API中，方便外部调用。

• 用户界面：开发一个用户友好的界面，方便用户与系统交互。

二、详细步骤

1. 下载安装Docker

2. 配置Docker

修改镜像路径，不然默认是C盘；（这个地方随意）

配置镜像源：

{
  "builder": {
    "gc": {
      "defaultKeepStorage": "20GB",
      "enabled": true
    }
  },
  "experimental": false,
  "registry-mirrors": [
    "https://hub.rat.dev",
    "https://docker.m.daocloud.io",
    "https://docker.1panel.live/",
    "https://docker.hpcloud.cloud",
    "https://docker.m.daocloud.io",
    "https://docker.unsee.tech",
    "https://docker.1panel.live",
    "http://mirrors.ustc.edu.cn",
    "https://docker.chenby.cn",
    "http://mirror.azure.cn",
    "https://dockerpull.org",
    "https://dockerhub.icu",
    "https://hub.rat.dev"
  ]
}

3. 下载RAGFlow

克隆仓库：

git clone https://github.com/infiniflow/ragflow.git

下载完后，进入以下目录，修改相关版本。

4. Docker镜像启动服务器

进入docker文件夹，利用提前编译好的Docker镜像启动服务器

启动命令：

docker compose -f docker-compose.yml up -d

出现这种情况，说明RAGFlow已经运行成功了；

浏览器输入localhost:80（默认80端口）；

5. RAGFlow成功启动

此时，你可以进行注册登录，进行配置相关知识库了！

首先添加一个模型；

然后，启动本地的ollma（教程在DeepSeek本地化部署）创建知识库；

ollama serve

上传知识库数据；

至此，垂直领域模型，部署成功了，也可以进行云服务部署。