说明:这是一个机器学习实战项目(附带数据+代码+文档+视频讲解),如需数据+代码+文档+视频讲解可以直接到文章最后关注获取。

1.项目背景

随着深度学习技术的发展,卷积神经网络(CNN)因其在图像识别中的卓越表现而被广泛采用。然而,在处理序列数据时,例如视频帧序列或文本序列,仅使用CNN可能不足以捕捉到数据中的长期依赖关系。为了弥补这一不足,可以将CNN与长短时记忆网络(LSTM)结合使用,特别是使用具有记忆功能的双向LSTM(BiLSTM),这样可以从序列的前后两个方向上捕捉信息。

此外,注意力机制近年来成为了处理序列数据的关键技术之一,它能够使模型聚焦于输入序列中最重要的部分,从而改善模型的性能。因此,将CNN与BiLSTM结合,并引入注意力机制,可以构建一个强大的分类模型,适用于需要同时处理空间特征和时间特征的任务。

本项目旨在开发一种结合了CNN、BiLSTM以及注意力机制的分类模型,利用TensorFlow框架实现该模型,并应用于特定的数据集上进行训练与测试。通过这种组合模型,我们期望能够在多种应用场景下提高分类任务的准确率,比如视频动作识别、自然语言处理中的情感分析等,从而推动相关领域的研究和技术进步。

本项目基于TensorFlow实现卷积神经网络-双向长短时记忆循环神经网络加注意力机制分类模型(CNN-BiLSTM-Attention分类算法)项目实战。      

2.数据获取

本次建模数据来源于网络(本项目撰写人整理而成),数据项统计如下:

编号 

变量名称

描述

1

x1

2

x2

3

x3

4

x4

5

x5

6

x6

7

x7

8

x8

9

x9

10

x10

11

y

因变量

数据详情如下(部分展示):

3.数据预处理

3.1 用Pandas工具查看数据

使用Pandas工具的head()方法查看前五行数据: 

关键代码:

3.2数据缺失查看

使用Pandas工具的info()方法查看数据信息:

从上图可以看到,总共有11个变量,数据中无缺失值,共2000条数据。

关键代码: 

3.3数据描述性统计

通过Pandas工具的describe()方法来查看数据的平均值、标准差、最小值、分位数、最大值。

关键代码如下:   

4.探索性数据分析

4.1 y变量柱状图

用Matplotlib工具的plot()方法绘制柱状图:

4.2 y=1样本x1变量分布直方图

用Matplotlib工具的hist()方法绘制直方图:

4.3 相关性分析

从上图中可以看到,数值越大相关性越强,正值是正相关、负值是负相关。

5.特征工程

5.1 建立特征数据和标签数据

关键代码如下:

5.2 数据集拆分

通过train_test_split()方法按照80%训练集、20%测试集进行划分,关键代码如下:

5.3 数据样本增维

数据样本增加维度后的数据形状:

6.构建卷积神经网络-双向长短时记忆循环神经网络加注意力机制分类模型  

主要使用CNN-BiLSTM-Attention分类算法,用于目标分类。     

6.1 构建模型 

编号

模型名称

参数

1

CNN-BiLSTM-Attention分类模型 

filters=5

2

units=64

3

epochs=60

4

initializer=random_normal

6.2 模型摘要信息

6.3 模型网络结构

6.4 模型训练集测试集损失和准确率曲线图 

7.模型评估 

7.1评估指标及结果 

评估指标主要包括准确率、查准率、查全率、F1分值等等。

模型名称

指标名称

指标值

测试集

CNN-BiLSTM-Attention分类模型   

准确率

0.9525

查准率

0.9343

查全率

0.9755

F1分值

0.9544

从上表可以看出,F1分值为0.9544,说明模型效果很好。    

关键代码如下:

7.2 分类报告

从上图可以看出,分类为0的F1分值为0.95;分类为1的F1分值为0.95。  

7.3 混淆矩阵

从上图可以看出,实际为0预测不为0的 有14个样本;实际为1预测不为1的 有5个样本,整体预测准确率良好。   

8.结论与展望

综上所述,本文采用了卷积神经网络-双向长短时记忆循环神经网络加注意力机制分类算法来构建分类模型,最终证明了我们提出的模型效果良好。此模型可用于日常产品的预测。

Logo

魔乐社区(Modelers.cn) 是一个中立、公益的人工智能社区,提供人工智能工具、模型、数据的托管、展示与应用协同服务,为人工智能开发及爱好者搭建开放的学习交流平台。社区通过理事会方式运作,由全产业链共同建设、共同运营、共同享有,推动国产AI生态繁荣发展。

更多推荐