Linux部署ollama
·
1、下载ollama
wget https://github.com/ollama/ollama/releases/download/v0.1.47/ollama-linux-amd64或者curl -fsSL https://ollama.com/install.sh | sh
2、安装ollama
install ollama-linux-amd64 /usr/local/bin/ollama
3、启动ollama
vi /etc/systemd/system/ollama.service
[Unit]
Description=Ollama Service
After=network-online.target
[Service]
Environment="OLLAMA_HOST=0.0.0.0:11434"
Environment="OLLAMA_MODELS=/home/models/ollama"(指定模型存储路径)
ExecStart=/usr/local/bin/ollama serve
User=root
Group=root
Restart=always
RestartSec=3
Environment="PATH=/root/miniconda3/condabin:/usr/local/cuda/bin:/usr/local/sbin:/usr/local/bin:/usr/sbin:/usr/bin:/root/bin:/usr/local/bin/:."
[Install]
WantedBy=default.target
重新加载配置文件 sudo systemctl daemon-reload
启动 sudo systemctl start ollama
重启 sudo systemctl restart ollama
停止 sudo systemctl stop ollama
4、其他命令
下载并启动模型 ollama run deepseek-r1:7b(模型名称)
删除模型 ollama rm deepseek-r1:7b(模型名称)
查看模型 ollama list
查看版本 ollama -v
魔乐社区(Modelers.cn) 是一个中立、公益的人工智能社区,提供人工智能工具、模型、数据的托管、展示与应用协同服务,为人工智能开发及爱好者搭建开放的学习交流平台。社区通过理事会方式运作,由全产业链共同建设、共同运营、共同享有,推动国产AI生态繁荣发展。
更多推荐


所有评论(0)