使用LangChain+Ollama自己做的一个和大语言模型聊天的网站支持上下文对话，学习记录。
·
0.引言
在自己学习的过程中可以自己做一个和聊天大模型对话的一个小网站，成就感不亚于人生第一次跑完10km。
1.项目介绍
前端代码：Vue3, MarkDownIT.
后端代码：Python3, Fernet库, OpenAPI, LangChain, Ollama.
Ollama 本地模型的部署和管理。
OpenAPI调用模型并处理第三方语言模型 API。
LangChain 的 ChatPromptTemplate 实现系统消息提示词功能。
LangChain 的 RunnableWithMessageHistory，保存用户聊天记录，支持上下文连续对话。
RunnableWithMessageHistory 的 stream 方法实现大模型数据实时响应，并采用 SSE（Server-Sent Events）实现动态流传输，将数据实时显示在页面上。
MarkDownIT 实现大模型数据显示格式化和代码高亮显示。
项目已经上线了，体验地址可以私信我，也可以相互交流。
2.项目效果
魔乐社区（Modelers.cn) 是一个中立、公益的人工智能社区，提供人工智能工具、模型、数据的托管、展示与应用协同服务，为人工智能开发及爱好者搭建开放的学习交流平台。社区通过理事会方式运作，由全产业链共同建设、共同运营、共同享有，推动国产AI生态繁荣发展。
更多推荐
8
0- 0
已为社区贡献4条内容
所有评论(0)