基于Windows系统本地deepseek的本机调用和内网跨终端调用
B.通过三方开源软件调用本地模型，在部署模型的电脑上，安装三方调用软件，如Cherry Studio、Chatbox、anythingLLM等，然后在连接时候API地址填写127.0.0.1:11434 不同调用软件连接方式基本相同，参考如下方式即可。B.连接软件的API地址中输入部署设备IP:11434 进行调用，如上本地调用的的地址换成下图即可，假设部署电脑IP是XX.XX.XX.XX，API
Windows Deepseek本地部署
1.Windows 本地调用
A.本地CMD调用，在本地CMD端口通过输入ollama list查看已经安装的大模型name 然后复制名字输入ollama run 模型name 如下图所示。
B.通过三方开源软件调用本地模型，在部署模型的电脑上，安装三方调用软件，如Cherry Studio、Chatbox、anythingLLM等，然后在连接时候API地址填写127.0.0.1:11434 不同调用软件连接方式基本相同，参考如下方式即可。
一．Cherry Studio 连接如下图
二．Chatbox 连接如下图
2.内网间跨设备调用
A. 在部署端防火墙出入站规则中运行11434端口，允许
B.连接软件的API地址中输入部署设备IP:11434 进行调用，如上本地调用的的地址换成下图即可，假设部署电脑IP是XX.XX.XX.XX，API地址为http://XX.XX.XX.XX:11434
魔乐社区（Modelers.cn) 是一个中立、公益的人工智能社区，提供人工智能工具、模型、数据的托管、展示与应用协同服务，为人工智能开发及爱好者搭建开放的学习交流平台。社区通过理事会方式运作，由全产业链共同建设、共同运营、共同享有，推动国产AI生态繁荣发展。
更多推荐
8
0- 0
已为社区贡献2条内容
所有评论(0)