一、Ollama官网安装和部署

Ollama官网地址

在这里插入图片描述

在这里插入图片描述

二、安装qwen模型

ollama run qwen

在这里插入图片描述

1、模型相关命令

在这里插入图片描述

三、大模型界面化MaxKB

MaxKB官网地址

本地运行起来你的Ollama并跑起来大模型,可以正常访问到,然后再maxkb上配置。

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

可以创建应用,然后配置你服务器运行的Ollama跑起来的大模型,可以进行界面化对话等功能。
还可以添加知识库,这个都是你自己的服务器上部署的,安全性比coze(目前还无法再本地部署)等高。

Logo

魔乐社区(Modelers.cn) 是一个中立、公益的人工智能社区,提供人工智能工具、模型、数据的托管、展示与应用协同服务,为人工智能开发及爱好者搭建开放的学习交流平台。社区通过理事会方式运作,由全产业链共同建设、共同运营、共同享有,推动国产AI生态繁荣发展。

更多推荐