问小白 wenxiaobai
资讯
历史
科技
环境与自然
成长
游戏
财经
文学与艺术
美食
健康
家居
文化
情感
汽车
三农
军事
旅行
运动
教育
生活
星座命理

如何通过 Deepseek + Dify 实现零成本部署本地智能体

创作时间:
作者:
@小白创作中心

如何通过 Deepseek + Dify 实现零成本部署本地智能体

引用
CSDN
1.
https://m.blog.csdn.net/qq_63911508/article/details/145863763

在当今数字化时代,智能体的搭建与管理对于个人和企业都具有重要意义。Deepseek和Dify的结合为我们提供了一种零成本部署本地智能体的有效方法,下面将详细介绍具体步骤:

一、准备工作

  1. 安装 Docker:访问Docker官网,根据操作系统选择相应的版本进行下载安装。

    安装过程中按照提示操作即可,由于 Docker 会用到 hyper-v,如果电脑未开启 hyper-v,可能需要重启一次。

  2. 安装 Ollama:Ollama 是一个免费的开源工具,允许用户在本地运行大型语言模型。访问Ollama官网下载适合操作系统的版本并进行安装。

二、安装 Deepseek 模型

在 Ollama 官网首页的搜索框中找到 Deepseek-r1 模型,根据电脑配置选择合适的参数版本进行下载安装。出现如下页面就是安装成功了。

三、安装 Dify

  1. 下载项目压缩包:从Dify的GitHub地址下载项目压缩包。下载完了大概是这样:

  2. 安装环境:解压下载的文件,进入项目根目录找到docker文件夹。将.env.example文件重命名为.env。
    并且在.env文件中添加两行配置:

# 启用自定义模型
CUSTOM_MODEL_ENABLED=true
# 指定011ama 的 API 地址(根据部署环境调整IP)
OLLAMA_AP工_BASE_URL=host.docker.internal:11434

保存后,在该文件夹页面中点击鼠标右键,选择“在终端中打开”,输入命令

docker compose up -d

此时 Docker 桌面客户端会显示所有 Dify 所需的环境已运行起来。如果出现这个报错,那估计是你的Docker-Desktop没有打开。并且会涉及到管理员权限的问题。这时候我们可以打开PowerShell。然后再次输入上面的命令。然后就会开始下载。如果显示了红色的报错:需要使用一些特殊手段。

安装完成:

  1. 注册 Dify:在浏览器地址栏输入如下网址进行注册,设置账号密码等信息。
http://127.0.0.1/install

然后登录即可。

四、创建应用

  1. 创建空白应用:在 Dify 的界面上选择创建空白应用。
  2. 应用配置:根据需求对应用进行相关配置,如设置应用名称、描述等。
  3. 配置大模型:将本地部署的 Deepseek 模型与 Dify 关联起来。由于 Dify 是通过 Docker 部署的,需要获取本地内网 IP。在 Docker 下的 env 文件末尾进行配置,如 CUSTOM_MODEL_ENABLED=true,OLLAMA_API_BASE_URL=host.docker.internal:11434等。也就是前面的步骤“二”。
  4. 测试:完成配置后,进行测试,确保 Dify 与 Deepseek 模型连通。

五、创建智能体

  1. 先选择创建空白应用。
  2. 做相关配置
© 2023 北京元石科技有限公司 ◎ 京公网安备 11010802042949号