很多朋友在公司使用deepseek总是“服务器繁忙,请稍后再试”,导致很多工作上的事情无法及时完成,那有没有方法能够解决这一问题。其实很简单,因为deepseek可以部署到本地,但公司电脑可能支撑不住,所以可以在家部署deepseek,公司端通过内网穿透访问家里局域网,从而快速使用deepseek。具体步骤如下:

1、安装设置LM Studio

进入LM Studio,选择对应系统的版本,按引导一键安装。

启动LM Studio,点击右下角设置,在App Settings将语言切换为中文,并启用“Use LM Studio's Hugging Face Proxy”选项以加快模型下载速度。

接着,在“Model Search”中搜索DeepSeek关键词,选择所需模型,点击右下角“Download”下载到本地。

目前可选1.5B、7B、8B、14B、32B、70B、671B(满血版)参数大小的模型。参数越大,性能越强,对显卡和显存要求越高。为保证响应速度,4GB显存建议选1.5B模型,8GB可选7B,16GB可选14B,推荐7B以上模型。

完成上述步骤即可本地使用。若要远程调用LM Studio中的DeepSeek模型,需进入开发者选项卡,在“Settings”中开启“启用CORS”和“在局域网内提供服务”,允许局域网访问LM Studio API服务。

2、安装内网穿透工具—安全坞

下载与安装

家里电脑:安装安全坞window版

公司电脑:安装安全坞window版

配置设备与账号绑定

家里电脑:打开安全坞,点击“允许远程接入”,并复制识别码发送给公司电脑

公司电脑:输入公司的识别码,点击连接

启动并首先远程访问deepseek

下载 AnythingLLM来调用 LM Studio 部署的 DeepSeek 模型。在 AnythingLLM 的设置中,将“LM Studio Base URL”配置为服务器的局域网 IP 地址和端口(如 http://服务器IP:1234/v1

Logo

魔乐社区(Modelers.cn) 是一个中立、公益的人工智能社区,提供人工智能工具、模型、数据的托管、展示与应用协同服务,为人工智能开发及爱好者搭建开放的学习交流平台。社区通过理事会方式运作,由全产业链共同建设、共同运营、共同享有,推动国产AI生态繁荣发展。

更多推荐