deepseek本地部署+API接口测试
1.5b 4核 8G7B 8核 16G 简单文本处理、文本翻译、代码生成8B 8核 16G 简单文本处理、文本翻译、代码生成32B 16核 64G 高阶多模态任务 (企业开发)70B 32核 80G 4090显卡671B 64核 512G (服务器集群)
·
一、部署基础知识
1.5b 4核 8G
7B 8核 16G 简单文本处理、文本翻译、代码生成
8B 8核 16G 简单文本处理、文本翻译、代码生成- 14B 12核 32G 适合长文本处理
32B 16核 64G 高阶多模态任务 (企业开发)
70B 32核 80G 4090显卡
671B 64核 512G (服务器集群)
二、部署方式
1. 下载olamahttps://ollama.com/

2. 下载完之后默认地址为 C:\Users\AppData\Local\Programs\Ollama (可以去环境变量改)
3. 打开cmd 执行 1.5b模型
ollama run deepseek-r1:1.5b
4.部署成功(第一次下载会弹出蓝色的弹窗)
后期启动命令
ollama run deepseek-r1:1.5b

三、API接口调用
调用地址
参数
{
"model": "deepseek-r1:1.5b",
"messages": [
{
"role": "user",
"content": "1+1为什么不等于3"
}
],
"stream": false
}

魔乐社区(Modelers.cn) 是一个中立、公益的人工智能社区,提供人工智能工具、模型、数据的托管、展示与应用协同服务,为人工智能开发及爱好者搭建开放的学习交流平台。社区通过理事会方式运作,由全产业链共同建设、共同运营、共同享有,推动国产AI生态繁荣发展。
更多推荐


所有评论(0)