文章介绍两大技术主题：一是组合式多模态RAG技术的全面梳理，涵盖不同输入输出组合、核心流程和训练策略；二是OntoMetric方法，采用"结构感知分割+本体引导抽取+两阶段验证"思路，解决ESG知识图谱构建中的实体不一致、关系幻觉等问题。

前排提示，文末有大模型AGI-CSDN独家资料包哦！

继续看技术进展，看RAG进展，看一个组合式多模态RAG总结性梳理，看看这块有哪些思路。

另一个是知识图谱构建进展，看看一个分割+抽取+验证做知识图谱构建思路-OntoMetric

多总结，多归纳，**多从底层实现分析逻辑，**会有收获。

一、组合式多模态RAG总结性梳理

RAG作为一种范式，可以灵活扩展，可以来个暴力组合，写综述。变成从文本RAG到多模态输入-文本输出，再到多模态输入-多模态输出的一个演进。

这块，看一个技术总结，如《A Comprehensive Survey on Multimodal RAG: All Combinations of Modalities as Input and Output》，https://doi.org/10.36227/techrxiv.176341513.38473003/v2，https://github.com/INTREBID/Awesome-MM-RAG，所有可能使用的模态组合作为输入和输出，包括文本、图像、音频、视频、代码、表格、知识图谱、3D 对象等。一共54个。

看几个点。

1、看不同输入输出组合的代表方案

2、看核心流程

如下所示，看看几个核心流程：

预检索阶段，关键操作是知识库准备（4种组织方式：单模态嵌入、成对存储、统一嵌入、图构建）和查询准备（5种优化技术：扩展、改写、转换、dropout、多查询）；

检索阶段，关键操作是检索器选择（稀疏、密集、其他3类）、策略制定（混合、分层等）和时机控制（单次、迭代、自适应3种），常用方法包括BM25、CLIP、混合检索；

增强阶段，关键操作是上下文处理（重排序、选择、压缩）和优化（噪声注入、融合），常用方法有FiE（编码器内融合）、FiD（解码器内融合）；

生成阶段，关键操作是生成器构建（5大组件）和增强（提示工程、MLLM微调），常用方法包括StableDiffusion（图像生成）、LoRA微调。

3、看训练策略

训练策略分为两类。

一类是参数冻结策略：直接复用现成模块，无参数更新，适用场景为快速部署、数据标注不足或低计算资源环境，代表研究有PICa、VideoRAG，优势是训练成本低、组件复用性强，劣势是任务适配性有限；

一类是参数可训练策略：包含模块化训练（独立优化各组件，适用场景为需针对性提升特定组件性能的场景，代表研究有VisRAG、RACC，优势是灵活度高、易维护，劣势是组件协同性不足）和端到端训练（联合优化检索器与生成器，适用场景为追求最优系统性能的场景，代表研究有RA-VQA、ReVeaL，优势是性能最优，劣势是计算成本高、部署灵活度差）。

二、分割+抽取+验证做知识图谱构建思路-OntoMetric

继续看一个知识图谱构建的思路，背景是SASB、TCFD、IFRSS2等框架要求企业报告大量ESG指标，相关规则嵌入长文本、非结构化PDF，包含定义、公式、单位等复杂信息，但是人工提取耗时、易错、难以应对框架更新。传统自动化关键词匹配/手工规则缺乏语义覆盖，无法处理复杂依赖。

无约束LLM提取容易出现实体不一致、关系幻觉、缺失溯源，验证失败率高，现有ESG本体又仅含形式化schema，缺乏自然语言描述。

所以，可以细分下实现，拆成多步。

具体的看这个工作《OntoMetric: An Ontology-Guided Framework for Automated ESG Knowledge Graph Construction》(https://arxiv.org/pdf/2512.01289)，搞了一套“自动把ESG政策文档变成规整可用的知识图谱”的流程，核心是用“先拆分、再提取、后校验”的思路解决“文档乱、提取不准、没法审计”的问题。

1、结构感知分割，基于目录（TOC）边界划分文档

ESG政策文档（比如SASB、TCFD）都是几百页的PDF，直接扔给AI提取容易乱。

所以先按文档自带的“目录”拆分，比如“绿色气体排放”“数据安全”这些章节，each章节作为一个“小块”。每个小块都记着自己来自文档的哪几页、原来的标题，方便后续追溯来源。

具体实现上，步骤为：step1.识别目录页面与标题，确定自然分割边界；->step2.合并跨页表格，清理布局冗余；->step3.保留片段标题、页面范围、sectionID等元数据；->step4.确保片段为完整概念单元（如指标定义、公式）

2、本体引导LLM提取

抽取上，如下：

先告诉AI要提取5类信息（实体）：行业（比如银行业）、披露框架（比如SASB）、分类（比如环境类指标）、具体指标（比如碳排放强度）、计算模型（比如碳排放怎么算）；也就是一个是ESGMKGschema，包括5类实体（Industry、ReportingFramework、Category、Metric、Model）、5类关系谓词、7条结构规则；再定好这些信息之间的关系（比如“银行业”用“SASB框架”，“SASB框架”包含“环境类指标”）；

给一个固定模板，让它把提取的信息填成结构化的JSON（比如指标名称、单位、描述都按固定字段填），一个是提示词设计，含系统上下文、本体连接图、实体定义等9个组件；

提取时记着每个信息来自哪个小块、哪一页，避免后续找不到源头。

最后把所有小块的提取结果合并，去掉重复的信息，解析JSON、添加溯源元数据、跨片段整合（ID解析+实体/关系去重）。

3、两阶段验证

为了解决实体不一致、关系幻觉、缺失溯源、验证失败率高的问题，缓解思路是语义验证+规则化schema验证来实现。

两阶段验证层：先通过LLM校验实体类型匹配度，再用6条规则检查结构合规性，剔除幻觉内容；同时全程保留片段/页面级溯源，解决溯源缺失问题。

拆开来看这个验证问题：

两阶段验证分为语义验证（Phase1）和schema验证（Phase2），两阶段结合使验证后的知识图谱同时满足语义正确性与结构有效性。

一个是语义验证，由LLM执行，核心作用是校验每个实体的标签和描述是否与其分配的ESGMKG类型匹配，直接剔除类型错误的实体及依赖关系，解决“实体类型幻觉”问题，减少后续无效校验，例如确认提取的“碳排放强度”确实是ESG指标，而不是财务指标（比如净利润），防止类型认错；

一个是schema验证，基于6条预定义规则执行，核心作用是保障结构合规性，具体包括：

1）实体验证，实体ID必须全局唯一；

2）实体验证，实体需包含类型特定的必填字段；

3）属性验证，指标的代码（code）和单位（unit）不可为空；

4）属性验证，模型（Model）需至少包含一个有效输入变量；

5）关系验证，仅允许ESGMKG定义的5类关系谓词

6）关系验证，每个计算型指标（CalculatedMetric）需精确关联一个模型（Model）

如下：

读者福利：倘若大家对大模型感兴趣，那么这套大模型学习资料一定对你有用。

针对0基础小白：

如果你是零基础小白，快速入门大模型是可行的。
大模型学习流程较短，学习内容全面，需要理论与实践结合
学习计划和方向能根据资料进行归纳总结

包括：大模型学习线路汇总、学习阶段，大模型实战案例，大模型学习视频，人工智能、机器学习、大模型书籍PDF。带你从零基础系统性的学好大模型！

😝有需要的小伙伴，可以保存图片到wx扫描二v码免费领取【保证100%免费】🆓

👉AI大模型学习路线汇总👈

大模型学习路线图，整体分为7个大的阶段：（全套教程文末领取哈）

第一阶段： 从大模型系统设计入手，讲解大模型的主要方法；

第二阶段： 在通过大模型提示词工程从Prompts角度入手更好发挥模型的作用；

第三阶段： 大模型平台应用开发借助阿里云PAI平台构建电商领域虚拟试衣系统；

第四阶段： 大模型知识库应用开发以LangChain框架为例，构建物流行业咨询智能问答系统；

第五阶段： 大模型微调开发借助以大健康、新零售、新媒体领域构建适合当前领域大模型；

第六阶段： 以SD多模态大模型为主，搭建了文生图小程序案例；

第七阶段： 以大模型平台应用与开发为主，通过星火大模型，文心大模型等成熟大模型构建大模型行业应用。

👉大模型实战案例👈

光学理论是没用的，要学会跟着一起做，要动手实操，才能将自己的所学运用到实际当中去，这时候可以搞点实战案例来学习。

👉大模型视频和PDF合集👈

这里我们能提供零基础学习书籍和视频。作为最快捷也是最有效的方式之一，跟着老师的思路，由浅入深，从理论到实操，其实大模型并不难。

👉学会后的收获：👈

• 基于大模型全栈工程实现（前端、后端、产品经理、设计、数据分析等），通过这门课可获得不同能力；

• 能够利用大模型解决相关实际项目需求： 大数据时代，越来越多的企业和机构需要处理海量数据，利用大模型技术可以更好地处理这些数据，提高数据分析和决策的准确性。因此，掌握大模型应用开发技能，可以让程序员更好地应对实际项目需求；

• 基于大模型和企业数据AI应用开发，实现大模型理论、掌握GPU算力、硬件、LangChain开发框架和项目实战技能， 学会Fine-tuning垂直训练大模型（数据准备、数据蒸馏、大模型部署）一站式掌握；

• 能够完成时下热门大模型垂直领域模型训练能力，提高程序员的编码能力： 大模型应用开发需要掌握机器学习算法、深度学习框架等技术，这些技术的掌握可以提高程序员的编码能力和分析能力，让程序员更加熟练地编写高质量的代码。

👉获取方式：

😝有需要的小伙伴，可以保存图片到wx扫描二v码免费领取【保证100%免费】🆓