在 Dify 中接入 Ollama

在设置中找到“模型供应商” > “ollama” > “添加”。
将 URL 设置为 http://host.docker.internal:8000,让 Docker 通过内部地址访问。
在这里插入图片描述
PS:
基础 URL:
此处需填写 Ollama 服务地址。此处我用Docker 容器部署,ollama绑定的端口改成了8000。故地址为http://host.docker.internal:8000.

官方文档描述:
如果填写公开 URL 后仍提示报错,请参考常见问题,修改环境变量并使得 Ollama 服务可被所有 IP 访问。
若 Dify 为 Docker 部署,建议填写局域网 IP 地址,例如:http://192.168.1.100:11434 或 Docker 容器的内部 IP 地址,例如:http://host.docker.internal:11434。
若为本地源码部署,可填写 http://localhost:11434。

Logo

魔乐社区(Modelers.cn) 是一个中立、公益的人工智能社区,提供人工智能工具、模型、数据的托管、展示与应用协同服务,为人工智能开发及爱好者搭建开放的学习交流平台。社区通过理事会方式运作,由全产业链共同建设、共同运营、共同享有,推动国产AI生态繁荣发展。

更多推荐