Gollama:本地管理和运行Ollama模型的最简单和交互方式
Gollama:本地管理和运行Ollama模型的最简单和交互方式
Gollama 是一种 Ollama 模型/LLM 管理器,具有交互性且易于使用。它允许用户以交互方式管理 Ollama 模型,并对其执行多项操作,如删除、复制、运行、列出等。
Ollama 是本地 AI 场景中最有用的工具之一。它让使用本地 AI 模型变得超级容易。用户可以通过一个命令轻松设置任何本地模型,并使用其服务器开始使用。不仅如此,它还提供 API 端点,用户可以使用任何第三方软件来以不同方式利用这些大型语言模型。
但是,Ollama 在管理模型方面存在一些问题。例如,当用户需要运行这些模型时,要么必须记住所有模型及其名称,如果用户有相同模型的不同版本,那么还必须记住参数或其他区分点。卸载和删除这些模型比记住模型名称更加困难。
为了解决这些问题,Gollama 应运而生。Gollama 是一个用于管理 Ollama 模型的工具。Gollama 为列出、检查、删除、复制和推送 Ollama 模型提供了一个文本用户界面 (TUI)。它允许用户使用热键交互选择模型、排序、过滤、编辑、运行、卸载并对它们执行操作。
安装
要安装 Gollama,用户需要先安装 Go。如果用户没有安装,可以转到 Go 的安装页面,点击下载链接并获取适用于其操作系统的安装文件。
完成后,只需按照操作系统的安装说明进行操作。安装完 Go 后,只需运行以下命令,Gollama 就会安装完成。
go install github.com/sammcj/gollama@HEAD
使用
安装完成后,用户可以通过运行 ./gollama
命令启动 Gollama 的 TUI 界面。在这个界面上,用户可以看到所有已安装的 Ollama 模型列表。
- 按
I
键可以检查模型,查看有关模型的所有详细信息,包括模型名称、量化、大小等。 - 按回车键可以使用聊天界面与模型交互。
- 按
Shift + D
可以删除模型。 - 按
C
可以复制一个模型并命名为其他名称。 - 按
Shift + U
可以从内存中卸载所有模型。 - 按
Shift + P
可以将模型推送到 Ollama。 - 按
N
、S
、M
、K
、F
可以按名称、大小、修改日期、量化、系列对模型进行排序。
此外,Gollama 还提供了 CLI 工具,用户可以使用以下命令行参数:
L
操作符列出模型S
操作符搜索模型E
操作符编辑模型文件U
操作符从内存中卸载所有模型
用户还可以从配置文件中配置多种其他内容,例如更改服务器 URL、设置日志文件等。
总结
Gollama 是一个非常有用的工具,可以管理 Ollama 模型,它消除了管理 Ollama 模型的所有麻烦部分,使其变得超级容易。此外,用户还可以获得有关所使用模型的更多详细信息,并且总体上会获得更好的模型管理界面。
视频教程
https://www.youtube.com/watch?v=T4uiTnacyhI
参考链接