最强开源模型DeepSeek-R1本地部署教程

最强开源模型DeepSeek-R1本地部署教程

引用

CSDN

1.

https://deepseek.csdn.net/67aae65861f6a61b947b46aa.html

最近，DeepSeek-R1模型在全球范围内掀起了一波浪潮，在海外技术论坛引发轰动，甚至有人将它称为最强开源大模型。作为开源模型，我们完全可以在自己本地部署一个DeepSeek-R1（当然是量化后的版本，否则消费级显卡无法承受）。

接下来，将会用小白都看得懂的教程来完成DeepSeek-R1的本地部署和使用（文末有DeepSeek优秀提示词分享）。

部署准备工作

在开始部署之前，我们需要了解一些基础知识：

硬件要求

• 显卡配置是关键因素
• 不同型号对应不同显存需求
• 建议使用4GB以上显存的显卡

软件准备

• Ollama运行环境
• 合适的用户界面(UI)
• 稳定的网络环境

详细部署步骤

1、下载Ollama

访问www.ollama.com，选择适合自己的版本，这里以Windows为例。

2、拉取DeepSeek-R1模型

模型参考

这里给一张表，根据量化之后的大小，以及适配的显存和消费级显卡，供大家参考

说明：

1. 显存需求：基于 4-bit 量化模型的显存需求。
2. 显卡推荐：根据显存需求和显卡性能推荐的显卡型号。
3. 适用性：

• 资源有限的用户：推荐使用 1.5B 或 7B 模型，它们可以在单张消费级显卡上运行。
• 需要更高性能的用户：可以选择 14B 或 32B 模型，但需要多 GPU 配置。
• 高端计算环境：70B 模型适合高端计算环境，需要多张高端 GPU 支持。

如何查看自己电脑的显存

按下Win+R组合键，打开运行对话框，输入“dxdiag”并回车。在DirectX诊断工具窗口中，点击“显示”选项卡，即可查看显存信息。

例如你的显存是6G，因此选择7B模型

Ollama run

命令：

• 1.5B Qwen DeepSeek R1：

ollama run deepseek-r1:1.5b

• 7B Qwen DeepSeek R1：

ollama run deepseek-r1:7b

• 8B Llama DeepSeek R1：

ollama run deepseek-r1:8b

• 14B Qwen DeepSeek R1：

ollama run deepseek-r1:14b

• 32B Qwen DeepSeek R1：

ollama run deepseek-r1:32b

• 70B Llama DeepSeek R1：

ollama run deepseek-r1:70b

如果下载过慢要考虑科学上网，至此就可以正常于DeepSeek-R1 7B的量化版本对话了，不过还是在终端上进行对话，因此我们可以选择一个合适的对话UI

3、部署Chat-UI

Page Assist（网页端）

• 便捷的浏览器插件
• 自动识别本地端口
• 操作简单直观
  https://chromewebstore.google.com/detail/page-assist-%E6%9C%AC%E5%9C%B0-ai-%E6%A8%A1%E5%9E%8B%E7%9A%84-web/jfgfiigpkhlkbnfnbobbkinehhfdhndo

Chatbox（客户端）

• 功能更加全面
• 支持多种模型接入
• 配置灵活多样
  https://chatboxai.app/zh
  点击设置，选择OLLAMA作为模型提供方，默认API域名即可，如果失败则点击此教程

4、DeepSeek-R1交互技巧

DeepSeek-R1的特点是注重推理过程和深度思考，建议：

• 提供清晰的上下文
• 循序渐进地提出问题
• 善用追问和引导

这里给大家分享WaytoAGI小伙伴们一起研究的内容，包括详解和实践指南

• 详解：DeepSeek深度推理+联网搜索 目前断档第一
• 收录了市面上比较代表性的文章
• 引发的现象（英伟达盘前跌幅14%）
• 系统提示词套出
• 技术报告下载
• 业界锐评（海内外的大V评论）
• 创始人信息
• 附提示词使用技巧
• DeepSeek-R1提示词交互实践指南

总结展望

本地部署DeepSeek-R1不仅能解决稳定性问题，更能保证数据安全。随着技术的发展，相信会有更多优秀的开源模型供我们选择。