方法1:下载ollama安装包

第一步:从ollama下载ollama的网址下载到本地,约1.2G;

第二步:通过sftp上载到服务器/user/local 目录,并解压缩:

tar -xzf ollama-linux-amd64.tgz

第三步:ollama --version,查看ollama是否安装成功,但是报错如下:

可以看到ollama要求 glibc_2.27库,如果采用这个方法 就需要安装这个库

方法2:利用docker安装ollama

第一步:拉取ollama镜像:docker pull ollama/ollama

第二步:运行:docker run -d  -v ollama-data:/root/.ollama -p 11434:11434 --name ollama ollama/ollama

第三步:docker exec -it ollama ollama run deepseek-r1:7b(首次运行会自动拉取模型)

第四步:测试:curl http://localhost:11434/api/generate -d '{
  "model": "deepseek-r1:7b",
  "prompt": "为什么天空是蓝色的?",
  "stream": false
}'

Logo

魔乐社区(Modelers.cn) 是一个中立、公益的人工智能社区,提供人工智能工具、模型、数据的托管、展示与应用协同服务,为人工智能开发及爱好者搭建开放的学习交流平台。社区通过理事会方式运作,由全产业链共同建设、共同运营、共同享有,推动国产AI生态繁荣发展。

更多推荐