实现合规性检测微调的6种训练数据类型
为实现检索增强生成(RAG)系统的功能,微调训练数据需要专门设计,核心是训练模型掌握**专业文本解析+上下文推理+合规验证**能力。以下是训练数据设计原则和具体示例:
---
### 训练数据核心结构
每个样本需包含:
```json
{
"input": "标准文本片段",
"instruction": "合规性问题",
"output": "关联条款标记,基于文本的合规结论"
}
```
### 训练数据类型及示例
#### 类型1:**直接提取型**(训练精准定位能力)
```json
{
"instruction": "ASDU地址FFH的作用是什么?",
"input": "《某某标准》4.4.1 ASDU公共地址高8位:0H表示保信子站本身;1H~FEH表示装置编号;FFH用于广播",
"output": "《某某标准》4.4.1,对保信子站内所有装置广播"
}
```
#### 类型2:**逻辑推断型**(训练条款关联能力)
```json
{
"instruction": "总召唤时开关量分位状态是否需要上送?",
"input": "《某某标准》5.1.1 持续性状态量需总召唤上送\n5.8.1 总召唤时仅回答持续性状态量\n图表25 开关量DPI=1表示分位",
"output": "需要,《某某标准》5.1.1+5.8.1+图表25,因为开关量属于持续性状态量(DPI=1),且在总召唤范围内"
}
```
#### 类型3:**表格解析型**(训练结构化数据处理)
```json
{
"instruction": "开关量处于合位时DPI值是多少?",
"input": "《某某标准》图表25 DPI定义\n| 信息类型 | DPI=1 | DPI=2 |\n|----------|-------|-------|\n| 开关量 | 开/OFF | 合/ON |",
"output": "《某某标准》图表25,DPI=2(合/ON)"
}
```
#### 类型4:**跨文档验证型**(训练标准冲突检测)
```json
{
"instruction": "保护跳闸信号是否需要带时标?",
"input": "GB/T 14285-2021 9.2.1:保护跳闸信号需带时标;QCSG1204013-2016 5.4.2:动作事件用ASDU1或ASDU10上送",
"answer": "是,GB/T 14285-2021 9.2.1 > QCSG1204013-2016 5.4.2,国标强制要求带时标,企业标准实现需满足此要求"
}
```
#### 类型5:**合规缺陷识别型**(训练风险判断能力)
```json
{
"instruction": "该设计是否符合物理接口要求?",
"input": "《某某标准》4.2 物理接口:必须使用100M及以上以太网\n设计文档:某子站采用RS485接口",
"answer": "不符合,违反《某某标准》4.2,必须使用100M及以上以太网’规定"
}
```
#### 类型6:**版本变更适应型**(训练标准更新追踪)
```json
{
"instruction": "2023版对无动作录波的规定有何变化?",
"input": "《某某标准》5.1.3 分散录波无动作出口不上送;5.1.3 新增:未动作录波需人工召唤",
"output": "2016版《某某标准》5.1.3 vs 2023版5.1.3,新增人工召唤机制,允许主站主动获取未动作录波"
}
```
---
### 训练数据配比建议
| 数据类型 | 占比 | 目的 | 样本量/千条 |
|---------|------|------|------------|
| 直接提取 | 30% | 基础定位能力 | 30 |
| 逻辑推断 | 25% | 条款关联能力 | 25 |
| 表格解析 | 15% | 结构化处理 | 15 |
| 跨文档验证 | 10% | 冲突解决 | 10 |
| 缺陷识别 | 15% | 风险判断 | 15 |
| 版本适应 | 5% | 更新追踪 | 5 |
---
### 进阶训练技巧
1. **负样本设计**(防幻觉):
```json
{
"document": "5.6.1 定值区号0表示当前区",
"question": "定值区号255表示什么?",
"evidence": "无相关条款",
"answer": "标准未定义该编码,请核查文档有效性"
}
```
2. **多跳推理链**:
```json
{
"document": "3.4 检修状态时信息不上送主站\n5.1.6 检修状态变化需ASDU1上送",
"question": "装置退出检修状态时是否需要通知主站?",
"evidence": "3.4+5.1.6",
"answer": "需要,通过ASDU1上送状态变化信号(COT=01H)"
}
```
3. **术语一致性训练**:
```json
{
"document": "4.3.2 使用TCP端口2404",
"question": "IEC60870-5-104缺省端口号?",
"evidence": "4.3.2",
"answer": "2404(与IEC60870-5-104标准一致)"
}
```
---
### 数据生成管道
```mermaid
graph TB
A[原始标准PDF] --> B(文本结构化)
B --> C[条款片段标注]
C --> D{问题生成}
D --> E[简单问题]
D --> F[推理问题]
D --> G[缺陷检测问题]
E --> H[专家验证]
F --> H
G --> H
H --> I[训练数据集]
```
> 关键工具:
> - **PDF解析**:Adobe Extractor/Google DocAI
> - **问题生成**:微调的GPT-4 + 规则引擎
> - **验证平台**:电力专家标注界面(接受率需>95%)
这种数据设计使模型具备三大核心能力:
1. **精准定位**:在百页文档中秒级锁定条款
2. **逻辑链构建**:关联分散的技术要求(如定值修改需闭锁)
3. **合规判决**:对比设计与标准文本的差异点
最终实现工业级合规检查:输入设计文档+标准文本,输出带条款引用的合规报告。
魔乐社区(Modelers.cn) 是一个中立、公益的人工智能社区,提供人工智能工具、模型、数据的托管、展示与应用协同服务,为人工智能开发及爱好者搭建开放的学习交流平台。社区通过理事会方式运作,由全产业链共同建设、共同运营、共同享有,推动国产AI生态繁荣发展。
更多推荐


所有评论(0)