python远程调用 Ollama 部署到本地的 DeepSeek 模型 来进行连续对话
·
有个解决不了的问题,如果是想对文件进行上传应该如何呢?
若是读取文件内容出来再进行提问,会导致deepseek回答的不够完美。
import requests
import json
message_list = []
while True:
text = input("\n请输入: ")
user_dict = {"role": "user", "content": text}
message_list.append(user_dict)
# 发送请求,开启流式输出
res = requests.post(
url="http://远程ip:11434/api/chat",
json={
"model": "deepseek-r1:32b",
"messages": message_list,
"stream": True # 开启流式输出
},
stream=True # 设置流式响应
)
for chunk in res.iter_content(chunk_size=1024):
if chunk:
try:
data_dict = json.loads(chunk.decode('utf-8'))
if 'message' in data_dict and 'content' in data_dict['message']:
print(data_dict['message']['content'], end='')
except Exception as e:
print("Error parsing response:", e)
魔乐社区(Modelers.cn) 是一个中立、公益的人工智能社区,提供人工智能工具、模型、数据的托管、展示与应用协同服务,为人工智能开发及爱好者搭建开放的学习交流平台。社区通过理事会方式运作,由全产业链共同建设、共同运营、共同享有,推动国产AI生态繁荣发展。
更多推荐


所有评论(0)