docker-compose安装ollama、本地大模型deepseek、qwen
4.ollama拉取deepseek:7b模型并运行。1.创建并配置docker-compose.yml。5.ollama拉取qwen2.5:7b模型并运行。6.docker查询容器日志。2.拉取镜像并启动服务。
·
1.创建并配置docker-compose.yml
services:
ollama:
restart: always
image: ollama/ollama
container_name: ollama
ports:
- "11434:11434"
environment:
- OLLAMA_HOST=0.0.0.0:11434
- OLLAMA_MODELS=/data/models
volumes:
- ./models/:/data/models
2.拉取镜像并启动服务
docker-compose up -d
3.进入容器
docker exec -it ollama /bin/bash
4.ollama拉取deepseek:7b模型并运行
ollama run deepseek-r1:7b
5.ollama拉取qwen2.5:7b模型并运行
ollama run qwen2.5:7b
6.docker查询容器日志
docker logs ollama
魔乐社区（Modelers.cn) 是一个中立、公益的人工智能社区，提供人工智能工具、模型、数据的托管、展示与应用协同服务，为人工智能开发及爱好者搭建开放的学习交流平台。社区通过理事会方式运作，由全产业链共同建设、共同运营、共同享有，推动国产AI生态繁荣发展。
更多推荐
3
0- 0
已为社区贡献3条内容
所有评论(0)