零基础教程:在低配置电脑上部署DeepSeek-r1大模型
创作时间:
作者:
@小白创作中心
零基础教程:在低配置电脑上部署DeepSeek-r1大模型
引用
CSDN
1.
https://deepseek.csdn.net/67ab1d5479aaf67875cb98d6.html
本文将详细介绍如何在低配置电脑(甚至无显卡)上部署DeepSeek-r1大模型。从下载、安装到运行,手把手教你轻松驾驭从1.5b到671b不同参数规模的模型。
第一步:下载模型
首先,你需要从官方网站下载适合你需求的DeepSeek-r1模型。如果遇到下载困难,可以关注并私信获取云盘链接,云盘中包含从1.5b到671b不同参数规模的模型文件。
第二步:安装Ollama
下载完成后,直接运行OllamaSetup.exe进行安装。安装过程简单,只需点击“Install”即可。
第三步:验证安装
安装完成后,打开命令行输入以下命令来验证是否安装成功:
ollama -v
如果显示Ollama版本信息,则说明安装成功。
第四步:运行大模型
根据你的需求选择合适的模型进行运行。以下是不同参数规模模型的运行命令:
1.5b:ollama run deepseek-r1:1.5b
7b:ollama run deepseek-r1:7b
8b:ollama run deepseek-r1:8b
14b:ollama run deepseek-r1:14b
32b:ollama run deepseek-r1:32b
70b:ollama run deepseek-r1:70b
671b:ollama run deepseek-r1:671b
系统会自动开始下载模型,下载完成后会显示“Send a message”,此时即可开始使用。
第五步:选择合适的模型
如何判断你的电脑可以安装哪个大模型?请参考下图:
根据你的显存和内存剩余空间,选择合适的模型进行部署。
第六步:使用虚拟内存运行大模型
如果内存不足,可以通过设置虚拟内存来运行更大模型。以下是具体步骤:
- 右键点击“我的电脑”,选择“属性”
- 选择“高级系统设置”
- 点击“高级”选项卡下的“设置”
- 选择“高级”选项卡
- 点击“性能”区域的“设置”
- 选择“高级”选项卡
- 点击“虚拟内存”区域的“更改”
下图是运行671b模型的配置示例:
不同参数量模型所需的虚拟内存数值如下:
第七步:虚拟内存运行的注意事项
使用虚拟内存运行大模型,尤其是671b这样的大规模模型时,推理速度会显著降低。这是因为推理速度的快慢顺序为:GPU+显存 > CPU+内存 > CPU+虚拟内存。
虽然虚拟内存方案在实际应用中可能无法达到理想的生产力效率,但它提供了一个低成本测试和体验大规模模型的途径。通过这种方式,你可以先测试模型是否满足需求,再决定是否投资购买专业设备。
热门推荐
太阳能路灯的使用寿命
风光互补发电系统应用详解,从理论到实践
双十一护眼大作战:手机放大功能攻略
Android放大镜功能:最新技术解析
Android 14放大镜功能完全指南:从设置到使用技巧
春节氛围热烈来袭,欢乐与希望的佳节迎接序章
激活“邻”聚力 共筑幸福家
白丝 vs 黑丝:2025年最火搭配攻略
《金刚经》最厉害的三句话
徐达与朱元璋:从布衣兄弟到开国君臣
婺源月亮湾:历史文化的瑰宝
金刚经简介,金刚经的主要内容是什么?
弈动智慧:围棋的魅力与文化传承
黄冈东坡庙会&温泉滑雪节:民俗狂欢季
交通事故急救指南:从现场处置到伤情处理
广东人口正增长:连续6年成第一生育大省
广东GDP首破14万亿元:高技术制造业成新引擎
脑出血后遗症治疗:时机,决定康复的关键
脑出血后遗症中医中药怎么调理治疗?
婺源月亮湾摄影指南:自然与人文的完美融合
婺源月亮湾:秋日打卡胜地
秋日童话:江西婺源月亮湾的绝美风光
无论年龄,简单每日运动让你保持健康活力
元旦带娃出行,市妇联教你安全乘车小妙招
金边瑞香:光照下的绿色宝藏
怎样养好盆栽金边瑞香?注意事项有哪些?
秋冬季节,婺源月亮湾的别样风情
《唐探1900》:票房高口碑低,一部充满矛盾的华语电影新作
青岛冬季海鲜大作战:家常烹饪秘籍分享!
青岛海鲜市场:如何挑选安全放心的进口海鲜?