问小白 wenxiaobai
资讯
历史
科技
环境与自然
成长
游戏
财经
文学与艺术
美食
健康
家居
文化
情感
汽车
三农
军事
旅行
运动
教育
生活
星座命理

实测:旧款MacBook Pro运行deepseek R1 32b模型效果如何?

创作时间:
作者:
@小白创作中心

实测:旧款MacBook Pro运行deepseek R1 32b模型效果如何?

引用
网易
1.
https://m.163.com/dy/article/JOC7E1K30553TKK8.html

近日,有用户在2021款16英寸MacBook Pro上测试了deepseek R1 32b模型的运行效果,分享了其使用体验和观察结果。

机器配置

测试所用的MacBook Pro配置为M1 Pro芯片,搭配32GB统一内存和1TB硬盘。Mac的统一内存架构使得这台机器可以近似当作拥有32GB显存的设备使用,为AI模型的运行提供了良好的硬件基础。

环境搭建

用户选择了ollama+chatbox作为运行环境,并在ollama中直接下载了deepseek R1的32b模型(约320亿参数,模型文件大小约为20GB)。此外,还下载了阿里的QWEN2.5 32b模型,其模型文件大小也接近20GB。

使用体验

用户首先让模型创作一首七言绝句:

在模型运行过程中,CPU使用率基本保持稳定,而内存使用则急剧增加,达到了32GB内存的80%以上。

模型生成的诗歌如下:

蝉鸣树影日初斜,
荷香满袖映朝霞。
风起绿波翻翠浪,
云生碧宇走龙蛇。

(注:此诗描绘了夏日正午时分的景象。蝉鸣声中,树影斑驳,太阳刚刚偏西;荷花香气扑鼻,衣袖上仿佛沾满了花香,映照在朝霞之中。忽然风起,绿色的水波翻滚如翠浪;云气升腾,在碧蓝的天空中如同龙蛇般游走,形容夏日天气多变而富有动感。)

整个创作过程耗时约1分钟。

在测试其他问题时,用户发现了一个有趣的现象:对于某些特定问题,模型多次提问得到的结果差异较大,且没有显示思考过程。


© 2023 北京元石科技有限公司 ◎ 京公网安备 11010802042949号