借鉴(超详细教程)没有sudo权限,在服务器安装ollama,下载qwen2模型,python代码测试_ollama压缩包-CSDN博客

1.官网下载ollama所需要的版本

https://github.com/ollama/ollama/releases

下载慢的话,可以从我分享的百度网盘下。我下载的版本是0.5.7.

ollama-linux-amd64.tgz_免费高速下载|百度网盘-分享无限制
提取码:l9m3

2.创建ollama文件,并本地上传文件。

mkdir ollama
cd ollama

3.解压缩

#解压缩
tar -xvzf ollama-linux-amd64.tgz

完成后如下所示两个文件

4.配置环境变量

vim ~/.bashrc

按i插入模式,在最下面添加。

export OLLAMA_HOME=自己的ollama的bin文件夹安装地址
export PATH=$PATH:$OLLAMA_HOME

#配置ollama下载的models
export OLLAMA_MODELS=你想要的下载地址

完成后esc退出插入模式 键盘输入:wq! 强制保存退出。

然后执行source指令使环境变量生效。

source ~/.bashrc

5.查看ollama版本,看到输入信息。配置成功

ollama -v

6.运行ollama

ollama serve

7.新开终端,下载大模型

ollama run deepseek-r1:8b

Logo

魔乐社区(Modelers.cn) 是一个中立、公益的人工智能社区,提供人工智能工具、模型、数据的托管、展示与应用协同服务,为人工智能开发及爱好者搭建开放的学习交流平台。社区通过理事会方式运作,由全产业链共同建设、共同运营、共同享有,推动国产AI生态繁荣发展。

更多推荐