如何本地部署 deepseek 请参考(windows 部署安装 大模型 DeepSeek-R1

LangChain 就是一个 LLM 编程框架,你想开发一个基于 LLM 应用,需要什么组件它都有,直接使用就行;
下面是langchain 调用 本地部署 deepseek-r1 模型:

import os 
os.environ["OPENAI_API_BASE"]='http://localhost:11434/v1/'
os.environ["OPENAI_API_KEY"]='xxx' 
from langchain_openai import ChatOpenAI  
llm = ChatOpenAI(model_name="deepseek-r1:1.5b", temperature=0)  
from langchain.schema import  HumanMessage 
result = llm([HumanMessage(content="土拨鼠原产地")])
print(result)

输出

在这里插入图片描述

Logo

魔乐社区(Modelers.cn) 是一个中立、公益的人工智能社区,提供人工智能工具、模型、数据的托管、展示与应用协同服务,为人工智能开发及爱好者搭建开放的学习交流平台。社区通过理事会方式运作,由全产业链共同建设、共同运营、共同享有,推动国产AI生态繁荣发展。

更多推荐