一种基于聚类和边界点的不平衡数据处理方法技术

本发明专利技术公开了一种基于聚类和边界点的不平衡数据处理方法，首先获取不平衡数据比例，计算要合成的少数类样本数；然后利用DBSCAN聚类方法对少数类样本聚类，找出聚类个数较少的簇，作为噪声点去除；再计算任意少数类样本的K近邻样本距离之和，以距离平均值为半径，统计半径区域少数类样本中多数类个数，归一化处理得到样本边界区域权重；此外，以每个聚类簇为区域，计算聚类中心到簇中所有样本的距离，以距离倒数作为样本权重；最后，在每个边界区域和聚类中心利用SMOTE合成算法；得到的新数据集和原数据集合并，采用交叉验证划分数据，然后使用随机森林分类算法进行测试。本发明专利技术让合成的样本分布更加合理，通过实验证明在分类器上表现性能更加良好。

【技术实现步骤摘要】
一种基于聚类和边界点的不平衡数据处理方法
本专利技术属于模式识别
，具体涉及一种针对不平衡数据集的分类器以及处理方法。
技术介绍
不平衡在金融风控、反欺诈、广告推荐和医疗诊断中普遍存在。通常而言，不平衡数据正负样本的比例差异极大，如在Kaggle竞赛中的桑坦德银行交易预测和IEEE-CIS欺诈检测数据。对模型而言，不均衡数据构建的模型会更愿意偏向于多类别样本的标签，实际应用价值较低。传统的分类器对不平衡数据集进行分类时，由于多数类样本更容易学习，导致分类结果偏向于多数类，但人们最感兴趣的往往是少数类。例如软件缺陷预测中，几乎所有的数据集都是不平衡的，有缺陷的样本属于少数类，无缺陷的样本属于多数类，在实际应用中为有缺陷样本预测错误所付出的代价是惨痛的。因此，分类不平衡问题逐渐成为机器学习领域的研究热点，尤其是正确识别其中的少数类。近年来，科研人员提出了多种针对不平衡数据集的分类方法。根据作用对象的不同，这些方法主要可以被分为算法层面和据层面两个主要方面。算法层面的处理方法主要包括集成学习和代价敏感学习方法，这些方法通过修改分本文档来自技高网...

【技术保护点】
1.一种基于聚类和边界点的不平衡数据处理方法，该方法包括以下步骤：/n(1)设原始不平衡数据集中少数样本数目为D多数样本数目为N，根据少数类和多数类样本数目，计算不平衡数据需要新生成的少数类样本总数Q；/n(2)利用DBSCAN聚类方法对少数类样本进行聚类，找出聚类簇中少数较少的点，以此作为样本噪声点删除，形成G个类；/n(3)对于任意少数类样本m

【技术特征摘要】
1.一种基于聚类和边界点的不平衡数据处理方法，该方法包括以下步骤：
(1)设原始不平衡数据集中少数样本数目为D多数样本数目为N，根据少数类和多数类样本数目，计算不平衡数据需要新生成的少数类样本总数Q；
(2)利用DBSCAN聚类方法对少数类样本进行聚类，找出聚类簇中少数较少的点，以此作为样本噪声点删除，形成G个类；
(3)对于任意少数类样本mi，基于KNN方法找到最近邻的K个样本，计算少数类样本到K个样本的距离和D1，相加求K近邻距离平均值di，以距离di为半径，统计半径区域少数类样本中多数类个数，相加并进行归一化处理，得到每个边界区域少数类样本的权重wi1，少数类样本mi的权重wi1之和为1；以每个簇为中心，计算每个聚类中心xi到聚类簇中所有样本的距离D，然后得到与样本个数的比值，得到平均距离D2，求和相加所有平均距离得到Z，进行归一化处理，并将每个距离D2的倒数与距离Z的倒数求比值，得到每个聚类簇权重wi2，每个聚类簇的权重wi2之和为1；
(4)对于边界区域样本和每个聚类簇心，利用SMOTE合成算法得到新生成的少数类样本，将新生成的少数类样本点加入到原有的不平衡训练集中；
(5)对新生成的平衡训练集运用随机森林分类算法对本发明提出的采样方法进行测试和评价，并与SMOTE、K-SMOTE和不使用的经典SVM等过采样方法进行对比。


2.根据权利要求所述的一种基于聚类和边界点的不平衡数据处理方法，其特征在于，步骤(1)中需要新生成的少数类样本Q＝I*(N-D)，其中I是要合成的不平衡比，本发明取值为1。


3.根据权利要求所述的一种基于聚...

【专利技术属性】
技术研发人员：姜诚，杨海波，张爽，
申请(专利权)人：哈尔滨理工大学，
类型：发明
国别省市：黑龙江;23