本地部署deepseek
·
由于ChatGPT使用上的限制,尽管已经有了Kimi等其他的AI,但是现在横空出世的deepseek还是成为了国内市场的香饽饽。
一、网页版deepseek劣势:
网页版的deepseek在使用时,经常会出现系统繁忙,推测是由于当时使用的人数较多,deepseek的服务器负载较大导致。所以对于出现这种问题时,我们只能通过刷新来再次进行使用,无疑在使用体验上有些折扣。
二、本地部署deepseek
部署本地版本的deepseek有几方面的优势:
- 保证数据安全性,不让自己的资料外泄;
- 体验感更好,不会经常出现系统繁忙(本地服务器要足够强);
1、安装Ollama并配置模型
Ollama (Ollama)
在Ollama官网中点击Download

根据自己电脑(服务器)的系统进行下载,下载后解压并打开

然后点击Ollama官网左上角的Models来选择合适的模型,其中能看到 deepseek-r1 作为主流模型,下载量已经接近 2 千万的下载量了

根据电脑的运行内存来进行选择,这里我的电脑是32G的运行内存,存储内存是1T,所以我选择的是14B的模型进行搭建(先搭建的7B的模型)

在本地终端中执行红框中的代码就能在本地配置模型了

下面就能使用该模型了!
魔乐社区(Modelers.cn) 是一个中立、公益的人工智能社区,提供人工智能工具、模型、数据的托管、展示与应用协同服务,为人工智能开发及爱好者搭建开放的学习交流平台。社区通过理事会方式运作,由全产业链共同建设、共同运营、共同享有,推动国产AI生态繁荣发展。
更多推荐



所有评论(0)