deepseek本地部署

首先官网下载ollama

https://ollama.com/

https://ollama.com/download
下载对应操作系统的安装包,本文章中示范windows下的安装,所以下载OllamaSetup.exe安装。

默认安装:

下载完ollama.exe文件之后,点击安装,安装过程较为简单,按照提示完成即可。缺点就是默认在C盘,长期使用占用C盘空间。可以安装完成后重新设置环境变量。

指定目录安装:

输入命令符安装,在CMD窗口输入:OllamaSetup.exe /DIR=E:\MySoftware\Ollama

语法:软件名称 /DIR=这里放你上面创建好的Ollama指定目录

安装完测试并验证

安装完成之后打开cmd,在终端cmd输入以下指令进行验证:

ollama -v
或者
ollama --version
在这里插入图片描述

配置环境变量

Ollama 默认安装在 C:\Users\用户名\AppData\Local\Programs\Ollama
注意:appData有时候是隐藏的状态。
下载的模型,默认安装位置:C:\Users\用户.ollama\models

修改模型安装位置

变量名:OLLAMA_MODELS
变量值:根据电脑磁盘自行设置
在这里插入图片描述

修改网络监听
变量名:OLLAMA_HOST
变量值:0.0.0.0
在这里插入图片描述

ollama服务重启

1.打开任务管理器:

右键点击任务栏并选择“任务管理器”。

2.找到Ollama进程:

在任务管理器中,点击“进程”选项卡,找到名为“ollama.exe”或“Ollama app.exe”的进程。
在这里插入图片描述

3.结束进程:

选中目标进程后,点击右下角的“结束任务”按钮。注意,可能需要先结束“Ollama app.exe”(守护进程),再结束“ollama.exe”

4.重新启动Ollama:

关闭进程后,可以通过桌面快捷方式、开始菜单或者任务栏图标重新启动Ollama。
在这里插入图片描述

安装deepseek模型

在ollama官网选择模型版本,本次演示r1:1.5b版本
https://ollama.com/library/deepseek-r1:1.5b
在这里插入图片描述
在这里插入图片描述

本地执行安装命令

将命令复制到cmd命令行执行即可
在这里插入图片描述

测试模型是否安装成功

在这里插入图片描述

查看模型列表:

在cmd终端输入以下指令

ollama list
在这里插入图片描述
至此,已完成全部安装工作,可以尽情的在本地使用ollama和大模型了。

Logo

魔乐社区(Modelers.cn) 是一个中立、公益的人工智能社区,提供人工智能工具、模型、数据的托管、展示与应用协同服务,为人工智能开发及爱好者搭建开放的学习交流平台。社区通过理事会方式运作,由全产业链共同建设、共同运营、共同享有,推动国产AI生态繁荣发展。

更多推荐