部署deepseek

1、打开Ollama官网

https://ollama.com/

下载完成后,点击OllamaSetup.exe弹出提示框点击install进行下载

2、打开控制台

下载完成后,会自动弹出命令提示符,若没有弹出可以打开控制台,win+R,cmd,输入ollama,弹出下面如下指令证明安装ollama成功

3、配置环境变量

由于默认的OLLAMA模型会下载到C盘,若想放在其他盘,节省C盘空间需要配置环境变量

Windows+i 搜索环境变量,点击编辑系统环境变量

配置环境变量
变量:OLLAMA_HOST
端口值:0.0.0.0:11434
因为后面我们的知识库是运行在一个虚拟机里的,没办法做到访问本机,所以需要我们做一个穿透
变量;OLLAMA_MODELS
值:OLLAMA模型下载的地址

4、下载模型

打开ollama官网:https://ollama.com/
选择Models,里面有很多个模型,主要介绍deepseek-r1和deepseek-v3,v3是更适用于普通的日常对话,r1是更接近于chatgpt的O1它有更长的推理链,但是肯呢个也会有更长的响应时间

模型大小选择好后,点右边的复制

命令行拷贝下载即可

下次对话

输入ollama

ollama run 你的模型例如( deepseek-r1)

码字不易,各位大佬点点赞呗

Logo

魔乐社区(Modelers.cn) 是一个中立、公益的人工智能社区,提供人工智能工具、模型、数据的托管、展示与应用协同服务,为人工智能开发及爱好者搭建开放的学习交流平台。社区通过理事会方式运作,由全产业链共同建设、共同运营、共同享有,推动国产AI生态繁荣发展。

更多推荐