0、先搞好docker

dify采用docker compose,提前准备好docker(找好可用的镜像源,非常重要)

普遍的都是阿里云、网易的源,但24年06月后就大多不可用了

最后搜集了前三个源,可用。

docker配置文件,没有就新建:/etc/docker/daemon.json


{
    "registry-mirrors": [
	"https://docker.1ms.run",
	"https://docker.1panel.live",
	"https://hub.rat.dev",
        "https://registry.docker-cn.com",
        "http://hub-mirror.c.163.com",
        "https://docker.mirrors.ustc.edu.cn",
        "https://kfwkfulq.mirror.aliyuncs.com",
        "https://docker.13140521.xyz"
    ]
}

1、下载Dify

直接选择从gitee下载

dify: Dify 是一个易用的 LLMOps 平台,旨在让更多人可以创建可持续运营的原生 AI 应用

2、启动Dify

在下载后的dify目录下执行

cd docker
cp .env.example .env
docker compose up -d

docker compose 期间会下载镜像,一定要配置好镜像源

3、ollama环境变量配置

因为 ollama是本地运行的,而 dify是运行在docker中的,ollama默认只有127.0.0.1可访问。

需先在本机设置环境变量

OLLAMA_HOST=0.0.0.0

设置完后ollama需要重启

4、Dify集成ollama

可以照着配了

注意基础url填写

本机ip:ollama port, 例如
http://192.168.1.2:11434

不要写 127.0.0.1,因为dify在docker里,ollama在本机

Logo

魔乐社区(Modelers.cn) 是一个中立、公益的人工智能社区,提供人工智能工具、模型、数据的托管、展示与应用协同服务,为人工智能开发及爱好者搭建开放的学习交流平台。社区通过理事会方式运作,由全产业链共同建设、共同运营、共同享有,推动国产AI生态繁荣发展。

更多推荐