System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 基于深度聚类和动态路由的TSK模糊系统分类方法及系统技术方案_技高网

基于深度聚类和动态路由的TSK模糊系统分类方法及系统技术方案

技术编号:40278219 阅读:10 留言:0更新日期:2024-02-02 23:06
本发明专利技术属于模糊系统分类技术领域,公开了一种基于深度聚类和动态路由的TSK模糊系统分类方法及系统,基于稀疏自编码器和Kmeans的深度聚类算法,确定TSK模糊系统的前件参数;基于动态路由算法进行后件参数微调;利用岭回归算法修正TSK模糊系统的权重,对最终的参数进行更新。本发明专利技术提出的DDTSK模糊分类器可以有效捕捉输入数据的特征表示,同时建立输入空间和输出空间的关联,还可以通过正则化参数更新方法来以进一步提升发明专利技术的分类性能。本发明专利技术的方法结构清晰,易于理解和部署,计算简便,可以有效解决分类模型的性能不足和效率低的问题。

【技术实现步骤摘要】

本专利技术属于模糊系统分类,尤其涉及一种基于深度聚类和动态路由的tsk模糊系统分类方法及系统。


技术介绍

1、模糊系统有两种重要且流行的类型:mamdani模糊系统和tsk模糊系统。由takagi、sugeno和kang提出的tsk模糊系统是其中最常见的模糊模型之一。该模型已经被广泛运用于非线性系统建模与辨识、模式识别、图像处理等多个领域。区别于mamdani模糊系统,tsk模糊系统中每个模糊规则的结果是输入的函数。tsk模糊系统作为一种基于规则的模糊系统,既可以利用误差等数据信息,也可以利用专家的经验知识,这为在预测系统中设计合适的修正子系统提供了灵活性。在解决分类和回归等常见机器学习问题时,tsk模糊系统都能具有较好的非线性逼近能力。

2、然而,随着数据数量和维数的不断增长,tsk模糊系统也面临新的挑战。在面对大规模数据或高维数据时,tsk模糊系统容易产生规则爆炸等问题,导致模型难以优化到令人满意的分类准确率。为此,已有大量研究聚焦于优化tsk模糊系统。通常来说,tsk模糊系统的优化主要集中在规则结构的辨识和规则参数的优化两个方面。对于规则结构的辨识,使用不同聚类算法对输入空间进行划分,可以有效捕捉输入数据的分布特性。规则参数的优化方法主要包括进化算法、梯度下降和最小二乘等。其中,梯度下降方法和进化算法通常需要大量时间来确定候选解或更新模型参数。而最小二乘方法的泛化能力有限,通常无法满足复杂的机器学习任务。此外,现有的传统优化方法无法有效捕捉tsk模糊系统的输入空间和输出空间之间的内在联系,因此模糊系统的分类准确率不是最优的。

3、已经开发了一些新的技术来解决tsk模糊系统在大规模数据或高维数据上的优化问题。伍冬睿等人尝试将深度学习中的优秀技术引入到tsk模糊系统以优化模型在不同任务上的分类准确率表现。作者利用mbgd、dropout、normalization正则化等技术优化tsk模糊系统的前件和后件参数,显著提升了tsk模糊系统泛化能力,缓解了模糊系统存在的规则爆炸、泛化能力不足等问题。冯霜等人在tsk模糊系统的基础上,结合宽度学习系统开发了模糊宽度学习系统,以进一步改善模糊模型的性能。该方法将多个模糊子系统的输出聚合,并通过增强层来提升系统的非线性逼近能力。

4、通过上述分析,现有技术存在的问题及缺陷为:现有的利用深度学习技术优化tsk模糊系统的方案通常依靠梯度下降来同时调整tsk模糊系统的不同参数,因此显著增加了模型的训练时间。另一方面,利用横向扩展和快速可重构技术优化tsk模糊系统的方案使得模型的结构变得冗余,模型的分类准确率受到显著影响。

5、现有技术:传统的tsk模糊系统

6、这种系统通常基于经典的模糊逻辑,利用简单的规则集来处理不确定性和模糊性。它们依赖于专家知识来定义规则和隶属度函数。这些系统的参数调整通常是基于试错方法或者简单的优化算法。

7、技术问题:

8、1.)有限的数据处理能力:传统tsk模糊系统在处理大规模或高维度数据时效率较低。它们无法有效处理复杂的数据模式,尤其是在大数据应用场景下。

9、2.)缺乏自适应和自学习能力:这些系统依赖于预先设定的规则,缺乏深度学习系统的自适应和自学习能力。因此,在数据特性发生变化时,它们的性能下降。

10、3.)参数调整效率低:传统方法在参数调整上依赖较为原始的方法,如手动调整或简单的算法,这限制了其在复杂环境下的应用,尤其是需要实时调整参数的情况。

11、4.)泛化能力有限:由于缺乏复杂数据处理能力和自适应学习机制,传统tsk模糊系统的泛化能力有限,难以适应多变的工业环境。


技术实现思路

1、针对现有技术存在的问题,本专利技术提供了一种基于深度聚类和动态路由的tsk模糊系统分类方法及系统。

2、本专利技术是这样实现的,一种基于深度聚类和动态路由的tsk模糊系统分类方法,包括以下步骤:

3、步骤一,基于稀疏自编码器和kmeans的深度聚类算法,确定tsk模糊系统的前件参数;

4、步骤二,基于动态路由算法进行后件参数微调;

5、步骤三,利用岭回归算法修正tsk模糊系统的权重,对最终的参数进行更新。

6、进一步,假设tsk模糊分类器有r个规则,表示为:

7、if x1 is xr,1 and…and xd is xr,d,

8、

9、式中xr,d(r=1,...,r;d=1,...,d)是第r个规则中第d个前件的隶属度函数,和是第c类对应的后件参数;

10、tsk模糊分类器的高斯隶属度函数表示为:

11、

12、式中mr,d和σr,d分别是高斯隶属度函数的中心和标准偏差;

13、第c类对应的tsk模糊分类器的输出表示为:

14、

15、式中是规则r的激活水平;

16、分类器输出进一步为:

17、

18、式中是规则r的归一化激活水平。

19、进一步,给定训练样本为其中xn=[xn,1,...,xn,d]t∈rd×1是一个d维的特征向量,yn∈{1,2,...,c}对应分类问题中的类别标签。

20、进一步,步骤一中将原始样本输入稀疏自编码器,提取低维特征;将新的特征表示用于kmeans聚类,获取前件参数的聚类中心。

21、进一步,稀疏自编码器的优化目标表示为:

22、

23、式中,是稀疏自编码器中需要求解的权重矩阵,z=xw表示输入样本x的期望输出;

24、使用admm算法进行求解,经过求解的低维特征通过下式表示:

25、

26、稀疏自编码器的输出被输入到kmeans算法中进行聚类;聚类目标函数表示为:

27、

28、进一步,步骤二中将模糊规则中的改写为:

29、

30、使用稀疏自编码器调整输入的维数,同时提取有效信息;将经过特征提取的标量重塑为胶囊,并以胶囊为基本单位进行参数微调。

31、进一步,经过特征提取的动态路由输入表示为b=[b1,b2,...,be];将b表示为p个输入胶囊ui(i=1,...,p),每个胶囊的维数为h;输出胶囊vj的数量为q(j=1,...,q),维数为l(l=1,...,l);随机生成权重矩阵wij,对输入胶囊进行变换;执行动态路由算法,协调输入胶囊和输出胶囊之间的关系;经过协议路由的多次迭代,最终确定输出胶囊vj。

32、进一步,第r个模糊规则对应的表示为新的后件参数与输出胶囊的组合:

33、

34、对于r个模糊规则的第c类输出表示为:

35、

36、进一步,步骤三中使用岭回归算法对最终的参数进行更新;将整个tsk分类器的c类输出表示为如下形式:

37、

38、式中,δrc表示本文档来自技高网...

【技术保护点】

1.一种基于深度聚类和动态路由的TSK模糊系统分类方法,其特征在于,包括以下步骤:

2.如权利要求1所述的基于深度聚类和动态路由的TSK模糊系统分类方法,其特征在于,假设TSK模糊分类器有R个规则,表示为:

3.如权利要求2所述的基于深度聚类和动态路由的TSK模糊系统分类方法,其特征在于,给定训练数据为其中Xn=[xn,1,...,xn,D]T∈RD×1是一个D维的特征向量,Yn∈{1,2,...,C}对应分类问题中的类别标签。

4.如权利要求1所述的基于深度聚类和动态路由的TSK模糊系统分类方法,其特征在于,步骤一中将原始数据输入稀疏自编码器,提取低维特征;将新的特征表示用于Kmeans聚类,获取前件参数的聚类中心。

5.如权利要求4所述的基于深度聚类和动态路由的TSK模糊系统分类方法,其特征在于,稀疏自编码器的优化目标表示为:

6.如权利要求1所述的基于深度聚类和动态路由的TSK模糊系统分类方法,其特征在于,步骤二中将模糊规则中的改写为:

7.如权利要求6所述的基于深度聚类和动态路由的TSK模糊系统分类方法,其特征在于,经过特征提取的动态路由输入表示为B=[b1,b2,...,be];将B表示为p个输入胶囊ui(i=1,...,p),每个胶囊的维数为h;输出胶囊vj的数量为q(j=1,...,q),维数为L(l=1,...,L);随机生成权重矩阵Wij,对输入胶囊进行变换;执行动态路由算法,协调输入胶囊和输出胶囊之间的关系;经过协议路由的多次迭代,最终确定输出胶囊vj。

8.如权利要求7所述的基于深度聚类和动态路由的TSK模糊系统分类方法,其特征在于,第r个模糊规则对应的表示为新的后件参数与输出胶囊的组合:

9.如权利要求1所述的基于深度聚类和动态路由的TSK模糊系统分类方法,其特征在于,步骤三中使用岭回归算法对最终的参数进行更新;将整个TSK分类器的C类输出表示为如下形式:

10.如权利要求1~9任一项所述的一种基于深度聚类和动态路由的TSK模糊系统分类方法的基于深度聚类和动态路由的TSK模糊系统分类系统,其特征在于,该系统包括:

...

【技术特征摘要】

1.一种基于深度聚类和动态路由的tsk模糊系统分类方法,其特征在于,包括以下步骤:

2.如权利要求1所述的基于深度聚类和动态路由的tsk模糊系统分类方法,其特征在于,假设tsk模糊分类器有r个规则,表示为:

3.如权利要求2所述的基于深度聚类和动态路由的tsk模糊系统分类方法,其特征在于,给定训练数据为其中xn=[xn,1,...,xn,d]t∈rd×1是一个d维的特征向量,yn∈{1,2,...,c}对应分类问题中的类别标签。

4.如权利要求1所述的基于深度聚类和动态路由的tsk模糊系统分类方法,其特征在于,步骤一中将原始数据输入稀疏自编码器,提取低维特征;将新的特征表示用于kmeans聚类,获取前件参数的聚类中心。

5.如权利要求4所述的基于深度聚类和动态路由的tsk模糊系统分类方法,其特征在于,稀疏自编码器的优化目标表示为:

6.如权利要求1所述的基于深度聚类和动态路由的tsk模糊系统分类方法,其特征在于,步骤二中将模糊规则中的改写为:

7.如权利...

【专利技术属性】
技术研发人员:李福生吕树彬杨婉琪赵彦春唐荣江
申请(专利权)人:电子科技大学长三角研究院湖州
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1