我花300块组装的电脑，成功跑通了本地大模型
我花300块组装的电脑，成功跑通了本地大模型
在AI大模型普及的关键一年，想要搭建一台本地运行大模型的设备，动辄需要数千元的投入。然而，一位DIY玩家却用300元的预算，成功组装出一台能够运行本地大模型的电脑。这台电脑不仅能够处理AI文本生成和绘图任务，还能运行一些主流游戏。本文将详细介绍这台低成本AI主机的组装过程和实际使用体验。
如果说2023年是大家公认的AI元年，那么2024年很可能就是AI大模型普及的关键一年。
在这一年里，大量的AI大模型、大量的AI应用问世，Meta、Google等厂商也开始面向民众推出自己的在线/本地大模型，似乎“AI人工智能”瞬间从一个遥不可及的概念，就这么突然来到了人们身边。
现在大家在生活中多多少少都接触过AI了，可如果你仔细分辨，你会发现，你所能接触到的各种AI应用，他们几乎都部署在“云端”上。如果想要搭建一台本地运行大模型的设备，那起码都是售价在5000元以上的全新AIPC，对于普通消费者来说似乎并不友好。
不过将预算压缩到极致，然后搭配出一套「能用」的主机，正是每一位DIY玩家的终极乐趣。而现在的问题是，如果真的想弄一台可以本地运行大语音模型的电脑，到底需要多少钱？
硬件选择与组装
在CPU的选择上，作者从闲鱼上捡了一颗Intel® Core™i3-4170T。
该处理器为二核四线程，3.2GHz主频，没有睿频能力，具备3MB智能缓存，采用22nm制程工艺的Haswell架构，最大的特点就是拥有一颗HD4400核显，这也是选择它的关键。
主板选择的是华硕工包H81M-V3，只有两根DDR3内存插槽，也没有HDMI输出接口和M2硬盘位，USB 3.0、SATA III接口都只有两个。虽然功能有限，但胜在价格便宜。
散热方面，使用了闲鱼上20元包邮寄来的下压式风冷散热器，虽然外观简陋，但完全能满足这台超低价配置的需求。
显卡选择了近期在闲鱼上流出的索泰P106-090矿卡，价格在75元左右。虽然这款显卡因为带宽问题并不适合游戏，但价格优势明显。
最后，配置了两根杂牌DDR3内存组成双通道，使用350W长城电源供电，120GB SATA SSD作为系统盘，并配了一个20元的电脑城小机箱。
性能测试
CPU性能
装机完成后，先进行简单的性能测试。Intel® Core™i3-4170T的性能相当于移动端酷睿六代、酷睿七代处理器的水平。具体测试结果如下：
- CPU-Z测试：单核跑分319.9分，多核跑分881.0分
- CINEBENCH测试：R20多核732cb、单核301cb
GPU性能
显卡采用16nm工艺打造，核心频率为1354MHz，可提升到1531MHz，具有768个着色单元，支持DirectX12，显存规格为3072MB/192Bit三星GDDR5内存，显存频率可达2002MHz。
在Fire Strike测试中，取得3287分的图形分数；在Time Spy测试中，取得2251分的图形分数，性能与GTX1050相当。
存储与内存性能
128GB Sata SSD硬盘的顺序读写速度达到505.28MB/s和400.09MB/s，随机4K读写达到132.35MB/s和244.29MB/s。
双通道DDR3内存的读取速度为20894 MB/s，写入速度为23629 MB/s，复制速度为20901 MB/s，延迟为67.5ns。
实际使用体验
AI应用体验
尝试使用Koblodcpp运行GGUF格式本地大模型，但由于模型容量较大，导致显卡显存溢出，运行效率较低。改用英特尔AIGC助手后，体验明显改善，提问基本能在5秒内获得答复。
在AI绘画方面，使用mistoonAnime MIX_v20模型进行测试，生成4张128160的图片耗时约三分钟，生成4张240320的图片耗时七到八分钟，生成1张512*512的图片则需要六分钟左右。
游戏性能测试
测试了《孤岛惊魂6》《古墓丽影：暗影》《F1 2020》以及《地平线：零之黎明》四款游戏：
- 《孤岛惊魂6》：1920*1080最低画质下平均帧数为32fps
- 《F1 2020》：1920*1080中画质下平均帧率为59fps
- 《古墓丽影：暗影》：最低画质下平均帧数为50fps
- 《地平线：零之黎明》：1280*720最低画质下勉强达到30fps
总结
这台300元预算的电脑主机确实能运行本地大模型，在文本生成和AI绘图方面表现良好。虽然CPU规格老旧、矿卡表现不稳定，但整体性能超出预期。对于预算有限的用户来说，这是一次有趣的DIY尝试。但对于日常使用来说，建议选择更稳定可靠的配置。
通过这次尝试，也说明硬件性能可能不是制约AI PC发展的主要因素。未来，PC厂商更应该在系统和软件层面提供更好的AI使用体验，让用户能够开箱即用。