问小白 wenxiaobai
资讯
历史
科技
环境与自然
成长
游戏
财经
文学与艺术
美食
健康
家居
文化
情感
汽车
三农
军事
旅行
运动
教育
生活
星座命理

DeepSeek技术社区:全网最详细的DeepSeek本地部署教程

创作时间:
作者:
@小白创作中心

DeepSeek技术社区:全网最详细的DeepSeek本地部署教程

引用
CSDN
1.
https://deepseek.csdn.net/67bfbe786670175f992c1a5c.html

DeepSeek作为国产开源大模型,近期因在线服务压力过大,本地部署需求激增。本教程将结合全网优质资源,手把手教你完成从环境配置到交互界面搭建的全流程,即使是零基础用户也能轻松掌握。

前言

DeepSeek作为国产开源大模型,近期因在线服务压力过大,本地部署需求激增。本教程将结合全网优质资源,手把手教你完成从环境配置到交互界面搭建的全流程,即使是零基础用户也能轻松掌握。

为什么要部署本地DeepSeek?

在本地部署DeepSeek有以下几个优势:

  1. 隐私性高:数据都在本地运行,无需上传到云端,避免数据泄露风险。
  2. 稳定性强:不受网络波动影响,模型运行更加稳定。
  3. 可定制性强:可以根据需求调整模型参数,满足个性化需求。

一、部署前准备

硬件要求

硬件类型
最低配置
推荐配置
显卡
NVIDIA GTX 1060 (6GB显存)
RTX 4080 (16GB显存)
内存
16GB
32GB
存储
50GB可用空间
SSD固态硬盘
系统
Windows 10 / macOS 12 / Ubuntu 20.04
Windows 11

注意事项

  • AMD显卡用户需安装25.1.1版本驱动并配合LM Studio使用

二、核心部署流程

2.1 安装Ollama框架

2.1.1 下载安装包

访问Ollama官网→选择对应系统版本下载(Windows用户建议安装到C盘)

下载完成后双击运行安装包,下一步下一步即可。

2.1.2 验证是否安装成功

按下win+R键打开命令行,执行命令:

ollama -v
# 输出类似:ollama version is 0.5.7

如果显示Ollama版本号,说明安装成功。

2.2 选择DeepSeek大模型版本

Ollama安装成功以后,在官网搜索DeepSeek,选择DeepSeek-R1,如图所示:

DeepSeek不同参数版本介绍:

模型参数规模
典型用途
CPU建议
GPU建议
内存建议(RAM)
磁盘空间建议
适用场景
1.5b (15亿)
小型推理、轻量级任务
4核以上 (Intel i5 / AMD Ryzen 5)
可选,入门级GPU (如NVIDIA GTX 1650, 4GB显存)
8GB
10GB以上SSD
小型NLP任务、文本生成、简单分类
7b (70亿)
中等推理、通用任务
6核以上 (Intel i7 / AMD Ryzen 7)
中端GPU (如NVIDIA RTX 3060, 12GB显存)
16GB
20GB以上SSD
中等规模NLP、对话系统、文本分析
14b (140亿)
中大型推理、复杂任务
8核以上 (Intel i9 / AMD Ryzen 9)
高端GPU (如NVIDIA RTX 3090, 24GB显存)
32GB
50GB以上SSD
复杂NLP、多轮对话、知识问答
32b (320亿)
大型推理、高性能任务
12核以上 (Intel Xeon / AMD Threadripper)
高性能GPU (如NVIDIA A100, 40GB显存)
64GB
100GB以上SSD
大规模NLP、多模态任务、研究用途
70b (700亿)
超大规模推理、研究任务
16核以上 (服务器级CPU)
多GPU并行 (如2x NVIDIA A100, 80GB显存)
128GB
200GB以上SSD
超大规模模型、研究、企业级应用
671b (6710亿)
超大规模训练、企业级任务
服务器级CPU (如AMD EPYC / Intel Xeon)
多GPU集群 (如8x NVIDIA A100, 320GB显存)
256GB或更高
1TB以上NVMe SSD
超大规模训练、企业级AI平台

根据你本地电脑的配置选择合适的参数,例如我们选择7b这个参数,运行代码如下:

ollama run deepseek-r1:7b

等待下载完毕,下载完成后就可以愉快的在本地使用大模型了,如图所示:

2.3 常用AI客户端工具

使用命令行进行对话很不方便,可以使用一些UI工具来更方便的和DeepSeek进行交互。常用的工具有:

工具
描述
Chatbox
一个支持多种流行LLM模型的桌面客户端,可在Windows、Mac和Linux上使用
Cherry Studio
一款为创造者而生的桌面版AI助手
AnythingLLM
一款全方位AI应用程序。与您的文档聊天,使用AI代理,高度可配置,多用户,无需繁琐的设置。

或者你可以探索更多更好用的工具,适合自己使用习惯就行。

2.4 ChatBox使用示例

这里我们使用ChatBox调用DeepSeek进行交互,其他工具使用方式类似。

ChatBox官网地址:https://chatboxai.app/zh

下载自己操作系统的安装包,进行安装。

安装完Chatbox之后就是配置DeepSeek到Chatbox了,如下界面所示:

配置AI模型提供方,这里选择Ollama,如图:

选择DeepSeek模型

配置完成以后就可以在界面上和本地DeepSeek模型进行聊天交互了,如图:

三、最后

至此,已完成了DeepSeek-R1的本地部署,小白也能轻松搞定,快来试试吧,开启你的本地大模型之旅!

© 2023 北京元石科技有限公司 ◎ 京公网安备 11010802042949号