1.官网安装

参考Linux上安装Ollama的官方文档:官网地址
在这里插入图片描述
在这里插入图片描述

2.Docker安装

官方 Ollama Docker 镜像可以直接在Docker Hub上进行拉取。

Docker Hub上的ollama镜像:镜像地址
在这里插入图片描述
我们选择CPU安装:

root@joe:~# docker run -d -v ollama:/root/.ollama -p 11434:11434 --name ollama ollama/ollama

在这里插入图片描述

3.安装完成后验证是否成功

验证地址

4.安装本地大模型

4.1 deepseek-r1:1.5b

root@joe:~# docker exec -it ollama ollama run deepseek-r1:1.5b

在这里插入图片描述

4.2 qwen3:1.7b

root@joe:~# docker exec -it ollama ollama run qwen3:1.7b

在这里插入图片描述

Logo

魔乐社区(Modelers.cn) 是一个中立、公益的人工智能社区,提供人工智能工具、模型、数据的托管、展示与应用协同服务,为人工智能开发及爱好者搭建开放的学习交流平台。社区通过理事会方式运作,由全产业链共同建设、共同运营、共同享有,推动国产AI生态繁荣发展。

更多推荐