Ollama模型局域网访问配置指南

Ollama模型局域网访问配置指南

引用

CSDN

1.

https://blog.csdn.net/2401_83416930/article/details/139408710

本文最初发布于2024年6月，介绍了如何配置Ollama模型以实现局域网访问。尽管文章内容具有一定的时效性，但其中的解决方案仍可能对部分读者有参考价值。在实际操作时，请注意检查是否有更新的技术方案。

问题描述

在本地安装Ollama模型后，通过127.0.0.1:11434可以正常访问，但无法通过局域网IP（如http://192.168.1.158:11434）进行访问。

搜索尝试

通过搜索发现，需要添加环境变量OLLAMA_HOST才能开放外网访问：

export OLLAMA_HOST=0.0.0.0:11434

然而，在/etc/profile和~/.zshrc中均添加了此变量后，重启系统仍然无效。但是通过命令行执行ollama serve启动后，可以通过局域网IP访问。

最终方案

要使Ollama模型能够通过局域网访问，需要进行以下配置：

1. 修改/etc/profile文件，添加环境变量：

   sudo sh -c 'echo "export OLLAMA_HOST=0.0.0.0:11434" >> /etc/profile'
   

2. 使用launchctl命令添加环境变量：

   launchctl setenv OLLAMA_HOST "0.0.0.0:11434"
   

完成上述配置后，不论是通过命令行ollama serve启动，还是通过双击Ollama应用图标启动，都可以实现外网访问。

安全性建议

为了提高安全性，可以限制特定IP访问：

1. 直接指定允许访问的电脑IP：

   launchctl setenv OLLAMA_HOST "192.168.1.158:11434"
   

2. 或者使用自定义域名：

   launchctl setenv OLLAMA_HOST "dev.ollama:11434"
   

然后在系统中设置对应的主机名解析：

192.168.1.158 dev.ollama

这样就可以通过自定义的域名进行访问。

文章来源：CSDN