Windows上安装Ollama自定义目录和简单使用

Windows上安装Ollama自定义目录和简单使用

引用

CSDN

1.

https://m.blog.csdn.net/wjs_007/article/details/145581257

Ollama是一个开源框架，专门用于在本地机器上便捷部署和运行大型语言模型。本文将详细介绍如何在Windows系统上自定义安装目录并使用Ollama。

一、下载

Ollama的Windows版本要求系统为win10或以上版本。下载页面提供了一个exe安装包（OllamaSetup.exe）。

二、安装

1. 创建安装目录

选择一个想要安装Ollama的位置，例如E:\Software\Ollama，并创建好该文件夹。

2. 通过命令窗口安装

以管理员身份打开CMD命令窗口，进入Ollama安装包的存放目录（例如E:\Documents\软件\Ollama），然后执行以下命令：

OllamaSetup.exe /DIR="E:\\Software\\Ollama"

将E:\\Software\\Ollama替换为你自己的安装路径。安装过程中，窗口顶部会显示正在往指定目录安装。

3. 验证

安装完成后，打开命令行窗口并输入ollama，如果有响应则说明安装成功。

三、设置下载模型的保存位置

Ollama默认将模型保存在C:\Users\用户名\.ollama。要更改保存位置，可以通过创建环境变量实现：

1. 创建一个希望保存模型的目录，例如E:\Models\Ollama。
2. 打开Windows环境变量配置窗口，创建一个名为OLLAMA_MODELS的环境变量，值为E:\Models\Ollama。

创建完成后需要退出Ollama并重新启动，否则新设置不会生效。

四、下载大模型

进入Ollama官网的Models页面，选择想要下载的模型。例如，下载通义千问的0.5b版本，可以使用以下命令：

ollama pull qwen:0.5b

注意：命令中的冒号不能省略。

五、运行大模型

在命令行中输入以下命令查看已安装的模型：

ollama list

要运行特定模型，可以使用以下命令：

ollama run qwen:0.5

六、常用命令

• ollama -v：查看Ollama版本
• ollama pull {想要下载的模型}：下载模型
• ollama rm {想要删除的模型}：删除模型
• ollama list：列出已下载的模型
• ollama run {想要启动的模型名称}：启动模型
• /bye：退出当前对话

Ollama的命令集会持续更新，更多详细信息请参考官网文档。