基于deepseek-r1构建自己的知识库,巨简单!!
本地部署私有知识库,使用deepseek-r1打造rag私有知识库
本文基于上一篇使用ollama本地部署deepseek-r1的后续部署,如果没有完成deepseek-r1大模型的本地部署,建议参考上一篇文章完成部署,完成部署后开始本文。
0.第零步,先打开命令行,运行ollama pull nomic-embed-text,这一步实际上是下载了一个文本分割的模型,如果想要详细了解可以去搜索一下,但是这里不过多赘述了,这么做就行。
1.访问网页https://anythingllm.com/,点击download for desktop,选择对应系统的anythingllm下载,下载完成后直接安装即可
2.打开以后随便填写注册一个就行,一直往后点,那些新建工作区都不重要,直到进入到工作页面。
3.点击左下角有个扳手的标志,进入到设置页面:
设置界面如下图:
llm提供商选择ollama,ollama model选择当时本地部署的大模型版本。
4.左侧点击embedded首选项,在嵌入引擎提供商选择ollama,在ollama embedding model中选择nomic-embed-text:latest到此配置就可以了
5.将私有知识上传到本地大模型的知识库,点击刚刚创建的工作区的上传按钮,如下图,螺母左边这个。
点开的界面如下:
点击浅蓝框上传私有知识(也就是你不可告人的秘密哈哈哈哈哈),选中后点击move to workspace,如下图:
到这里就上传完成了,关闭上传页面,就可以对话啦!!
是不是超简单呐!!
魔乐社区(Modelers.cn) 是一个中立、公益的人工智能社区,提供人工智能工具、模型、数据的托管、展示与应用协同服务,为人工智能开发及爱好者搭建开放的学习交流平台。社区通过理事会方式运作,由全产业链共同建设、共同运营、共同享有,推动国产AI生态繁荣发展。
更多推荐


所有评论(0)