零基础教程:在低配置电脑上部署DeepSeek-r1大模型
创作时间:
作者:
@小白创作中心
零基础教程:在低配置电脑上部署DeepSeek-r1大模型
引用
CSDN
1.
https://deepseek.csdn.net/67ab1d5479aaf67875cb98d6.html
本文将详细介绍如何在低配置电脑(甚至无显卡)上部署DeepSeek-r1大模型。从下载、安装到运行,手把手教你轻松驾驭从1.5b到671b不同参数规模的模型。
第一步:下载模型
首先,你需要从官方网站下载适合你需求的DeepSeek-r1模型。如果遇到下载困难,可以关注并私信获取云盘链接,云盘中包含从1.5b到671b不同参数规模的模型文件。
第二步:安装Ollama
下载完成后,直接运行OllamaSetup.exe
进行安装。安装过程简单,只需点击“Install”即可。
第三步:验证安装
安装完成后,打开命令行输入以下命令来验证是否安装成功:
ollama -v
如果显示Ollama版本信息,则说明安装成功。
第四步:运行大模型
根据你的需求选择合适的模型进行运行。以下是不同参数规模模型的运行命令:
1.5b:ollama run deepseek-r1:1.5b
7b:ollama run deepseek-r1:7b
8b:ollama run deepseek-r1:8b
14b:ollama run deepseek-r1:14b
32b:ollama run deepseek-r1:32b
70b:ollama run deepseek-r1:70b
671b:ollama run deepseek-r1:671b
系统会自动开始下载模型,下载完成后会显示“Send a message”,此时即可开始使用。
第五步:选择合适的模型
如何判断你的电脑可以安装哪个大模型?请参考下图:
根据你的显存和内存剩余空间,选择合适的模型进行部署。
第六步:使用虚拟内存运行大模型
如果内存不足,可以通过设置虚拟内存来运行更大模型。以下是具体步骤:
- 右键点击“我的电脑”,选择“属性”
- 选择“高级系统设置”
- 点击“高级”选项卡下的“设置”
- 选择“高级”选项卡
- 点击“性能”区域的“设置”
- 选择“高级”选项卡
- 点击“虚拟内存”区域的“更改”
下图是运行671b模型的配置示例:
不同参数量模型所需的虚拟内存数值如下:
第七步:虚拟内存运行的注意事项
使用虚拟内存运行大模型,尤其是671b这样的大规模模型时,推理速度会显著降低。这是因为推理速度的快慢顺序为:GPU+显存 > CPU+内存 > CPU+虚拟内存。
虽然虚拟内存方案在实际应用中可能无法达到理想的生产力效率,但它提供了一个低成本测试和体验大规模模型的途径。通过这种方式,你可以先测试模型是否满足需求,再决定是否投资购买专业设备。
热门推荐
中国信通院发布IPv6安全指南:构建下一代互联网安全防线
IPv6网络稳定性:你踩过哪些坑?
《传闻中的陈芊芊》:韩烁角色分析
赵露思新作《珠帘玉幕》:一部展现女性成长的古装剧佳作
遭遇拖欠工资?这份证据收集与维权指南请收好
劳动仲裁没有工资条怎么证明工资金额
东兴:中越边境上的异域风情小镇
东兴越南风情街:中越文化交融的边境明珠
冬日打卡:东兴越南风情街必吃美食
煮豆浆有三注意!
功率变送器在造纸磨浆机控制系统中的应用
学会这些烧烤技巧及注意事项 你可以变成烧烤大师
探访宾阳古迹:千年历史的秘密
曲阜孔府:古建艺术的瑰宝
曲阜:传统文化的创新表达
摩旅西藏必备装备全攻略:从车辆到药品,这份清单请收好!
丽江拉市海游玩攻略:十大要点帮你轻松避坑
西安地铁里的宝藏文化,你打卡了吗?
中国十大海岛全攻略:从西沙到海陵岛的绝美风光
Ed Sheeran的音乐如何助你安然入睡?
音乐助眠:科学原理、创新方式与实测效果全解析
世界十大催眠曲:让你一夜好梦
助眠音乐:改善睡眠与心理健康的双重选择
10款鱼香味型的川菜
麻辣属于哪种口味类别?
人体缺钾是什么原因,怎么治疗
美国哪些城市拥有NBA球队
UI设计:打造社交媒体上的个性头像
柳州网红打卡攻略:五星步行街+螺蛳粉
柳州三日游:网红景点打卡+地道美食攻略,玩转龙城精华!