在服务器,无sudo权限安装ollama
·
借鉴(超详细教程)没有sudo权限,在服务器安装ollama,下载qwen2模型,python代码测试_ollama压缩包-CSDN博客
1.官网下载ollama所需要的版本
https://github.com/ollama/ollama/releases
下载慢的话,可以从我分享的百度网盘下。我下载的版本是0.5.7.
ollama-linux-amd64.tgz_免费高速下载|百度网盘-分享无限制
提取码:l9m3
2.创建ollama文件,并本地上传文件。
mkdir ollama
cd ollama
3.解压缩
#解压缩
tar -xvzf ollama-linux-amd64.tgz

完成后如下所示两个文件

4.配置环境变量
vim ~/.bashrc
按i插入模式,在最下面添加。
export OLLAMA_HOME=自己的ollama的bin文件夹安装地址
export PATH=$PATH:$OLLAMA_HOME
#配置ollama下载的models
export OLLAMA_MODELS=你想要的下载地址
完成后esc退出插入模式 键盘输入:wq! 强制保存退出。
然后执行source指令使环境变量生效。
source ~/.bashrc
5.查看ollama版本,看到输入信息。配置成功
ollama -v
6.运行ollama
ollama serve
7.新开终端,下载大模型
ollama run deepseek-r1:8b
魔乐社区(Modelers.cn) 是一个中立、公益的人工智能社区,提供人工智能工具、模型、数据的托管、展示与应用协同服务,为人工智能开发及爱好者搭建开放的学习交流平台。社区通过理事会方式运作,由全产业链共同建设、共同运营、共同享有,推动国产AI生态繁荣发展。
更多推荐


所有评论(0)