结合Ollama和AnythingLLM，用户可以构建一个私有的知识库系统，该系统能够将各种格式的文档、资源或内容片段转化为大型语言模型在聊天中可以利用的相关上下文。这种组合提供了一个全栈的解决方案，允许用户选择使用哪个大型语言模型（LLM）或矢量数据库，并支持多用户管理和权限控制。通过这种方式，用户可以在本地或云端搭建个性化的聊天机器人系统，且无需复杂设置，实现高效的知识管理和智能问答。这种集成解决方案对于需要处理建筑行业安全事故报告的个人，提供了一种安全、高效的文档聊天机器人解决方案。

一、Ollama

Ollama是一个开源的大型语言模型（LLM）服务工具，它极大地简化了在本地运行大型语言模型的过程。用户可以通过简单的安装指令，在本地快速运行如Llama 2和Llama 3等开源大型语言模型。Ollama的官网下载地址为：https://ollama.com/download。

图1 Ollama官方下载页面图

Ollama的主要特点包括：

1、本地AI模型管理：用户可完全掌控在本地系统上对模型进行下载、更新和删除等操作，便于严格保障数据安全，还能跟踪和控制不同的模型版本。

2、命令行与图形界面操作：主要通过命令行界面操作，用户可使用简洁的命令对模型进行拉取、运行和管理等，也支持如Open WebUI等第三方图形用户界面工具。

3、多平台支持：具有广泛的平台兼容性，涵盖了主流的操作系统，可轻松集成到现有的工作流程中，其中Windows支持目前为预览版。

4、丰富的模型库：支持众多现成可用且可定制的大型语言模型，如Llama 3.2、Mistral、Code Llama、Llava等，以满足不同项目的特定需求。

二、AnythingLLM

AnythingLLM是Mintplex Labs Inc.推出的开源项目，为个人和企业提供了一种安全、高效且可定制的解决方案。该工具基于RAG（Retrieval-Augmented Generation）模型，允许用户将本地文档转换为可由大型语言模型（LLM）引用的格式，实现对话式问答和知识管理。AnythingLLM的官网下载地址为：https://anythingllm.com/download。

图2 AnythingLLM官方下载页面图

AnythingLLM的主要功能包括：

1、多用户支持与权限管理：支持多用户同时访问，并可设置不同权限。

2、文档管理：支持PDF、TXT、DOCX等多种文档类型，并通过简易界面管理。

3、聊天模式：提供对话和查询两种模式，保留历史记录，支持引用标注。

4、开发者API：提供完整API支持自定义集成。

5、LLM兼容性：包括开源的llama.cpp兼容模型、OpenAI、Azure OpenAI、Anthropic ClaudeV2、LM Studio和LocalAi。

6、嵌入模型：AnythingLLM原生嵌入器、OpenAI、Azure OpenAI、LM Studio和LocalAi。

7、向量数据库：LanceDB（默认）、Pinecone、Chroma、Weaviate和QDrant

针对所有自学遇到困难的同学们，我帮大家系统梳理大模型学习脉络，将这份 LLM大模型资料 分享出来：包括LLM大模型书籍、640套大模型行业报告、LLM大模型学习视频、LLM大模型学习路线、开源大模型学习教程等, 😝有需要的小伙伴，可以 扫描下方二维码领取🆓↓↓↓

👉[CSDN大礼包🎁：全网最全《LLM大模型入门+进阶学习资源包》免费分享（安全链接，放心点击）]()👈

三、搭建专属知识库指南

在Ollama的官方网站，依据使用的操作系统（Windows、Mac或Linux）下载对应的安装包。通过键盘上的“Win + R”组合键弹出“运行”对话框，通过输入cmd进入命令提示符窗口，根据输入指令不同可以选择下载多种大型语言模型。

图3 命令提示符窗口图

图4 llama3下载操作图

在AnythingLLM的官方网站，依据设备所使用的处理器类型Download for Windows (x64) Download for Windows (ARM)下载对应的安装包。启动AnythingLLM后，在LLM preference中选择Ollama，然后在Ollama Model根据需要选择大语言模型,随后嵌入模型可以选择AnythingLLM默认模型或者Ollama，完成基础设置。

图5 大语言模型偏好配置图

图6 向量数据库配置图

图7 嵌入模型配置图

正式进入AnythingLLM后，开始创建工作区，首先需要对工作区进行命名，完成命名后即可进行基础的问答。

图8 新建工作区示意图

接下来将建筑行业安全事故报告导入AnythingLLM，构建属于自己的大模型知识库。通过工作区上传按钮，上传自己所收集到的建筑行业安全事故报告（支持包括文本文件、CSV文件、电子表格文件、音频文件等类型），同时还可以识别网页，输入事故报告网页链接，可以将网页内容转换为向量数据，嵌入到知识库中。

图9 工作区文件上传示意图

图10 文件导入示范图

图11 文件嵌入示范图

当我们在AnythingLLM的查询框中输入关于建筑安全事故的疑问时，例如“在高层建筑施工中如何预防火灾事故”、“某一事故发生的原因和经过”，AnythingLLM会迅速调用Ollama的语言模型处理能力，在已构建的安全事故报告知识网络中深度挖掘，进而给出详尽的解答与应对建议，让建筑安全知识真正为我们所用。

四、专属知识库在建筑安全中的应用

1、事故预防与风险评估

在项目规划初期，借助知识库中的丰富案例与数据，项目团队可以进行全面的事故风险评估。通过查询相似项目的安全事故案例，提前识别潜在的安全隐患，并针对性地制定预防措施，从源头上降低事故发生的概率。

2、事故应急响应与处理

一旦不幸发生安全事故，知识库将立即转化为应急响应的得力助手。现场救援人员可以通过快速查询以往类似事故的处理经验，获取最佳的救援方案与人员疏散策略。例如，在面对建筑坍塌事故时，能够迅速了解到如何确定被困人员位置、采用何种救援设备与技术最为有效，从而争分夺秒地拯救生命，最大限度减少事故损失。

3、安全培训与教育提升

对于建筑行业的新员工培训以及全体员工的安全教育提升，培训讲师可以从知识库中提取典型事故案例，让员工们直观地了解事故发生的原因、过程与后果，深刻汲取教训。同时，员工们也可以自主在知识库中查询各类安全知识与操作规范，不断强化自身的安全意识与技能水平，如同为每一位建筑从业者打造了一位随身的安全导师。

在大模型时代，我们如何有效的去学习大模型？

现如今大模型岗位需求越来越大，但是相关岗位人才难求，薪资持续走高，AI运营薪资平均值约18457元，AI工程师薪资平均值约37336元，大模型算法薪资平均值约39607元。

掌握大模型技术你还能拥有更多可能性：

• 成为一名全栈大模型工程师，包括Prompt，LangChain，LoRA等技术开发、运营、产品等方向全栈工程；

• 能够拥有模型二次训练和微调能力，带领大家完成智能对话、文生图等热门应用；

• 薪资上浮10%-20%，覆盖更多高薪岗位，这是一个高需求、高待遇的热门方向和领域；

• 更优质的项目可以为未来创新创业提供基石。

可能大家都想学习AI大模型技术，也_想通过这项技能真正达到升职加薪，就业或是副业的目的，但是不知道该如何开始学习，因为网上的资料太多太杂乱了，如果不能系统的学习就相当于是白学。为了让大家少走弯路，少碰壁，这里我直接把都打包整理好，希望能够真正帮助到大家_。

👉[CSDN大礼包🎁：全网最全《LLM大模型入门+进阶学习资源包》免费分享（安全链接，放心点击）]()👈

一、AGI大模型系统学习路线

很多人学习大模型的时候没有方向，东学一点西学一点，像只无头苍蝇乱撞，下面是我整理好的一套完整的学习路线，希望能够帮助到你们学习AI大模型。

第一阶段： 从大模型系统设计入手，讲解大模型的主要方法；

第二阶段： 在通过大模型提示词工程从Prompts角度入手更好发挥模型的作用；

第三阶段： 大模型平台应用开发借助阿里云PAI平台构建电商领域虚拟试衣系统；

第四阶段： 大模型知识库应用开发以LangChain框架为例，构建物流行业咨询智能问答系统；

第五阶段： 大模型微调开发借助以大健康、新零售、新媒体领域构建适合当前领域大模型；

第六阶段： 以SD多模态大模型为主，搭建了文生图小程序案例；

第七阶段： 以大模型平台应用与开发为主，通过星火大模型，文心大模型等成熟大模型构建大模型行业应用。

二、640套AI大模型报告合集

这套包含640份报告的合集，涵盖了AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师，还是对AI大模型感兴趣的爱好者，这套报告合集都将为您提供宝贵的信息和启示。

三、AI大模型经典PDF书籍

随着人工智能技术的飞速发展，AI大模型已经成为了当今科技领域的一大热点。这些大型预训练模型，如GPT-3、BERT、XLNet等，以其强大的语言理解和生成能力，正在改变我们对人工智能的认识。 那以下这些PDF籍就是非常不错的学习资源。

四、AI大模型各大场景实战案例

结语

【一一AGI大模型学习 所有资源获取处（无偿领取）一一】
所有资料 ⚡️ ，朋友们如果有需要全套 《LLM大模型入门+进阶学习资源包》，扫码获取~

👉[CSDN大礼包🎁：全网最全《LLM大模型入门+进阶学习资源包》免费分享（安全链接，放心点击）]()👈