一种面向K均值聚类算法的质心以及质心个数初始化方法技术

技术编号:20589701 阅读:38 留言:0更新日期:2019-03-16 07:24
本发明专利技术提供了一种面向K均值聚类算法的质心以及质心个数初始化方法,包括:将数据离散后,计算每一维度数据的信息熵;根据信息熵排序选出两个混乱程度最低的数据,通过降维找出特征最小的方向作为X轴重新建立坐标系,生成新的两维数据;通过Y轴数据绘制密度曲线,将已有数据分为若干簇;Y轴数据代替原来两个信息熵较低的数据继续进行计算,直到所有维度数据都参与运算;最终得到若干簇,通过原数据计算质心。本发明专利技术无需提供K值,对于未知簇个数的数据可以得到准确的K值,并且初始化质心后可以减少迭代次数,快速收敛,同时提高K均值算法的稳定性,满足了对于簇的个数不明确以及随机质心对结果影响较大的数据集的需求。

【技术实现步骤摘要】
一种面向K均值聚类算法的质心以及质心个数初始化方法
本专利技术涉及一种数据聚类方法,属于机器学习领域,主要用于实现初始化K均值聚类的K值以及质心,具体为一种面向K均值聚类算法的质心以及质心个数初始化方法。
技术介绍
K均值算法(Lloyod,1982)是简单而又有效的统计聚类算法,使机器能够将具有相同属性的样本归置到一块儿。与分类不同,对于一个分类器,通常需要告诉它“这个样本被分成哪些类”这样一些标签,在最理想情况下,一个分类器会从所得到的训练集中进行“学习”,我们将这种提供训练的过程称为“监督学习”。但是在聚类下,我们并不关心某一类是什么,我们的目的是想将相似的样本归置在一起,这样,一个聚类算法通常只要知道该如何计算样本间的相似度并将相似样本归并到一起就可以操作了,因此聚类通常并不需要使用训练数据进行学习,这在机器学习中被称作“无监督学习”。K均值算法就是这种用于统计的无监督聚类技术。K均值算法操作简单、运算速度较快,能够有效处理中小型数据集。但同时K均值算法也有不足之处,包含以下几点:(1)聚类结果不确定K均值算法初始聚类中心是随机选择的,初始中心点选取的好坏会导致最终聚类效果。本文档来自技高网...

【技术保护点】
1.一种面向K均值聚类算法的质心以及质心个数初始化方法,其特征在于,包括以下步骤:步骤1:对数据集中的数据进行聚类特征提取,将数据提取出新的特征,其中,聚类特征提取是指将一个二维数据映射到数据最密集的方向上;步骤2:利用提取出的新的特征绘制密度曲线,将密度曲线极大值处的数据密度初始化为这一维数据的质心,根据获得的质心将当前这一维数据划分为若干簇,再根据所得的簇将数据集划分为若干簇,其中,密度曲线描述数据在所处位置处的密集程度;步骤3:利用叠加式簇的划分将高维数据划分为若干簇,其中,叠加式簇的划分是指通过每一维数据的叠加将数据划分为若干簇;最终得到的簇的个数初始化为K均值聚类的初值,再求取每个簇...

【技术特征摘要】
1.一种面向K均值聚类算法的质心以及质心个数初始化方法,其特征在于,包括以下步骤:步骤1:对数据集中的数据进行聚类特征提取,将数据提取出新的特征,其中,聚类特征提取是指将一个二维数据映射到数据最密集的方向上;步骤2:利用提取出的新的特征绘制密度曲线,将密度曲线极大值处的数据密度初始化为这一维数据的质心,根据获得的质心将当前这一维数据划分为若干簇,再根据所得的簇将数据集划分为若干簇,其中,密度曲线描述数据在所处位置处的密集程度;步骤3:利用叠加式簇的划分将高维数据划分为若干簇,其中,叠加式簇的划分是指通过每一维数据的叠加将数据划分为若干簇;最终得到的簇的个数初始化为K均值聚类的初值,再求取每个簇元素的平均值初始化为K均值聚类的质心。2.根据权利要求1所述的一种面向K均值聚类算法的质心以及质心个数初始化方法,其特征在于,步骤一中,对数据进行聚类特征提取的步骤进一步包括以下步骤:步骤1.1:将数据离散化,这里采用等距离散化,通过预先设置好的阈值N,将数据最大值与最小值之间的距离等分为N个区间,其中,N为区间个数;步骤1.2:先计算数据出现在第i(i=1,2,...,N)个区间的概率pi,然后计算出N个区间的信息熵H(U),H(U)表示描述数据的混乱程度的量,其中U为N个区间的集合,表示出现在这些区间中的数据的信息熵,将每一维数据按照信息熵由小到大进行排序,信息熵越小,数据的混乱程度越小,聚类的特征越明显,其中,信息熵H(U)的计算式为:步骤1.3:对于有n条数据m个属性的数据集,用x1,x2,x3,...xm来表示每一维的属性,选取x1和x2分别作为X轴与Y轴坐标,这里用x和y来表示,首先从数据集中提取两维信息熵较小的数据进行处理,有利于在开始时能够进行准确的簇的划分;步骤1.4:求出平面的中心点其中为一个点对应着步骤1.3中两维数据的均值,其中,xi表示步骤1.3中两维数据的组成的点,n表示共有n条数据,求出平面的中心点的计算式为:步骤1.5:其中S表示原始数据的协方差矩阵,假设投影向量为u,u为变量,通过u表示出转置后的方差有利于之后问题的求解,则投影后的方差为:步骤1.6:对(3)式等号右边使用拉格朗日乘子法进行计算,将该投影后方差最小化,这是一个典型的有约束优化问题,利用拉格朗日乘子法,设定乘子为λ1,S表示原始数据的协方差矩阵,u为投影向量,则优化问题转换为:uTSu=uTSu+λ1(1-uTu)(4);步骤1.7:对(4)式求导并且使之为0,计算出方差的极大值点与极小值点,得到等式:Su=λ1u(5)在极小值点求出此时的u向量,再求出u的正交向量r,将数据分别映射到u向量和r向量上,得到数据分别为k...

【专利技术属性】
技术研发人员:徐小龙徐浩严
申请(专利权)人:南京邮电大学
类型:发明
国别省市:江苏,32

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1