问小白 wenxiaobai
资讯
历史
科技
环境与自然
成长
游戏
财经
文学与艺术
美食
健康
家居
文化
情感
汽车
三农
军事
旅行
运动
教育
生活
星座命理

Gollama:本地管理和运行Ollama模型的最简单和交互方式

创作时间:
作者:
@小白创作中心

Gollama:本地管理和运行Ollama模型的最简单和交互方式

引用
1
来源
1.
https://cloud.tencent.com/developer/article/2472816

Gollama 是一种 Ollama 模型/LLM 管理器,具有交互性且易于使用。它允许用户以交互方式管理 Ollama 模型,并对其执行多项操作,如删除、复制、运行、列出等。

Ollama 是本地 AI 场景中最有用的工具之一。它让使用本地 AI 模型变得超级容易。用户可以通过一个命令轻松设置任何本地模型,并使用其服务器开始使用。不仅如此,它还提供 API 端点,用户可以使用任何第三方软件来以不同方式利用这些大型语言模型。

但是,Ollama 在管理模型方面存在一些问题。例如,当用户需要运行这些模型时,要么必须记住所有模型及其名称,如果用户有相同模型的不同版本,那么还必须记住参数或其他区分点。卸载和删除这些模型比记住模型名称更加困难。

为了解决这些问题,Gollama 应运而生。Gollama 是一个用于管理 Ollama 模型的工具。Gollama 为列出、检查、删除、复制和推送 Ollama 模型提供了一个文本用户界面 (TUI)。它允许用户使用热键交互选择模型、排序、过滤、编辑、运行、卸载并对它们执行操作。

安装

要安装 Gollama,用户需要先安装 Go。如果用户没有安装,可以转到 Go 的安装页面,点击下载链接并获取适用于其操作系统的安装文件。

https://go.dev/doc/install

完成后,只需按照操作系统的安装说明进行操作。安装完 Go 后,只需运行以下命令,Gollama 就会安装完成。

go install github.com/sammcj/gollama@HEAD

使用

安装完成后,用户可以通过运行 ./gollama 命令启动 Gollama 的 TUI 界面。在这个界面上,用户可以看到所有已安装的 Ollama 模型列表。

  • I 键可以检查模型,查看有关模型的所有详细信息,包括模型名称、量化、大小等。
  • 按回车键可以使用聊天界面与模型交互。
  • Shift + D 可以删除模型。
  • C 可以复制一个模型并命名为其他名称。
  • Shift + U 可以从内存中卸载所有模型。
  • Shift + P 可以将模型推送到 Ollama。
  • NSMKF 可以按名称、大小、修改日期、量化、系列对模型进行排序。

此外,Gollama 还提供了 CLI 工具,用户可以使用以下命令行参数:

  • L 操作符列出模型
  • S 操作符搜索模型
  • E 操作符编辑模型文件
  • U 操作符从内存中卸载所有模型

用户还可以从配置文件中配置多种其他内容,例如更改服务器 URL、设置日志文件等。

总结

Gollama 是一个非常有用的工具,可以管理 Ollama 模型,它消除了管理 Ollama 模型的所有麻烦部分,使其变得超级容易。此外,用户还可以获得有关所使用模型的更多详细信息,并且总体上会获得更好的模型管理界面。

视频教程

https://www.youtube.com/watch?v=T4uiTnacyhI

参考链接

[1]https://github.com/sammcj/gollama?tab=readme-ov-file

© 2023 北京元石科技有限公司 ◎ 京公网安备 11010802042949号