OllamaAi设置外网访问
·
Ollama在linux环境中如何支持外部或者宿主机通过IP访问其接口
1、首先停止ollama服务：systemctl stop ollama
2、修改ollama的service文件：/etc/systemd/system/ollama.service
在[Service]下边增加一行：Environment=“OLLAMA_HOST=0.0.0.0:8080”，端口根据实际情况修改
3、重载daemon文件 systemctl daemon-reload
4、启动ollama服务 systemctl start ollama
Ollama在windows环境中如何支持通过IP来访问接口
1、首先停止ollama服务的允许。由于windows下安装的ollama不是一个标准的windows service，所以只能直接杀掉两个ollama进程。
2、为当前windows系统添加环境变量：电脑-属性-高级系统设置-环境变量
变量：OLLAMA_HOST，值：0.0.0.0:11434
3、关掉已打开的命令行窗口，打开新命令行，用ollama serve或者ollama start来启动ollama服务，此时ollama服务在启动时将读取环境变量中的OLLAMA_HOST，支持IP端口访问
魔乐社区（Modelers.cn) 是一个中立、公益的人工智能社区，提供人工智能工具、模型、数据的托管、展示与应用协同服务，为人工智能开发及爱好者搭建开放的学习交流平台。社区通过理事会方式运作，由全产业链共同建设、共同运营、共同享有，推动国产AI生态繁荣发展。
更多推荐
12
0- 0
已为社区贡献2条内容
所有评论(0)