传统的分类学习中往往假设各个训练样本在各类别的数目上大致相等,但是在实际的分类问题中,这种假设往往是不成立的。

当样本在不同类别上的数目相差很大时,叫做不平衡数据集,此时分类器的分类效果往往会变差。

目前的研究主要从数据预处理、代价敏感思想、单类别学习和集成学习方面进行研究。

数据预处理主要是通过增加少类样本或减少多类样本来达到数据的平衡,也就是过采样方法和欠采样方法。

欠采样方法就是减少多数样本来达到数据间的相对平衡,包括有近邻清理、压缩最近邻、单边选择和Tomek links等方法。

过采样方法则是增加少数类样本使其与多数类样本的规模相同,方法有SMOTE、Borderline-SMOTR、ASMOTE等。

代价敏感思想就是通过赋予多数类与少数类不同的误分类代价,在分类器分类时能够更加关注于少数类,提高分类精度。

单类别学习法在进行分类任务时,分类的目的尽量识别重要的少数类,而将少数类的岩本作为训练样本,并在分类的过程中只识别待分类样本中的少数类样本。

集成学习将数据层面改进算法和传统分类算法相结合来提高不平衡数据分类效果。集成学习依据其包含的分类器种类,分为同态集成学习和异态集成学习。同态集成学习指的是基础分类器由相同类型构成,这些基础分类器可以有不同的参数;异态集成学习指的是基础分类器由不同类型构成,即包含两种或两种以上的基础分类器。同态集成学习先对原始训练数据集进行一系列采样﹐获得一系列训练子数据集﹐训练出多个分类器,然后对测试样本的分类结果用投票的方式集成获得最后的分类结果。异态集成学习中的基础分类器都具有不同的属性﹐某个基础分类器对某类特定数据集可能会更有效。

 

 

Logo

魔乐社区(Modelers.cn) 是一个中立、公益的人工智能社区,提供人工智能工具、模型、数据的托管、展示与应用协同服务,为人工智能开发及爱好者搭建开放的学习交流平台。社区通过理事会方式运作,由全产业链共同建设、共同运营、共同享有,推动国产AI生态繁荣发展。

更多推荐