修改ollama配置使其可以监听0.0.0.0和修改端口,可以外网访问

修改文件

vim /etc/systemd/system/ollama.service

增加

[Service]
Environment="OLLAMA_HOST=0.0.0.0:11434"

重现加载

sudo systemctl daemon-reload
sudo systemctl restart ollama

sudo systemctl status ollama

查看日志

journalctl -u ollama.service

open-api

这样可以通过外网访问

curl http://192.168.31.11:11434/api/chat -d '{
  "model": "qwen:0.5b-chat-v1.5-q4_K_M",
  "messages": [
    { "role": "user", "content": "介绍一下北京景点?" }
  ],
  "stream": false
}'

第二十四篇-Ollama-在线安装
第二十五篇-Ollama-离线安装
第二十六篇-Ollama-监听本地IP与端口
第二十七篇-Ollama-加载本地模型文件
第二十八篇-Ollama-TeslaP40-Ollama-8B-Qwen1.5-32B等速度
第三十篇-Ollama-TeslaP40-Ollama-Qwen2-57B等速度

Logo

魔乐社区(Modelers.cn) 是一个中立、公益的人工智能社区,提供人工智能工具、模型、数据的托管、展示与应用协同服务,为人工智能开发及爱好者搭建开放的学习交流平台。社区通过理事会方式运作,由全产业链共同建设、共同运营、共同享有,推动国产AI生态繁荣发展。

更多推荐