一种自适应确定隐层节点数的增量半监督超限学习机系统技术方案

本发明专利技术涉及机器学习技术领域，具体地说，涉及一种自适应确定隐层节点数的增量半监督超限学习机系统。其包括超限学习平台，超限学习平台包括前馈神经网络单元、半监督学习单元、超限学习单元和增量学习单元；半监督学习单元用于通过未标记样本和标记样本相结合的方式来进行模式识别工作；超限学习单元用于构建半监督学习系统；增量学习单元用于增加隐层节点，并确定隐层节点的数量。本发明专利技术中通过设置的增量单元使半监督超限习机能够逐个或者成批增加隐层节点，并自适应确定隐层节点数量，在此过程当中，网络的外权矩阵不需要重新训练，只需逐步更新，当隐层节点数较大时，能大幅减少半监督超限学习机的训练时间。

【技术实现步骤摘要】
一种自适应确定隐层节点数的增量半监督超限学习机系统
本专利技术涉及机器学习
，具体地说，涉及一种自适应确定隐层节点数的增量半监督超限学习机系统。
技术介绍
在回归问题中，“标记”通常指的是数据样本的输出值，在分类问题中，“标记”通常指的是数据样本的类标签，目前的学习算法中更多的是利用标记样本进行训练，实际上，收集到的数据样本中，往往是标记样本和未标记样本并存，甚至包含的更多的是未标记样本，未标记样本通常需要使用特殊设备或经过不菲且非常耗时的人工标记才能转换为标记样本。一般半监督学习会利用未标记样本辅助标记样本进行学习，但学习机在学习过程中半监督学习无法自适应的确定合理的隐层节个数，当隐层节个数增加时，网络的外权矩阵需要重新训练，从而增加训练时间，使学习机在等待时间延长，从而影响学习效率。
技术实现思路
本专利技术的目的在于提供一种自适应确定隐层节点数的增量半监督超限学习机系统，以解决上述
技术介绍
中提出的问题。为实现上述目的，本专利技术提供一种自适应确定隐层节点数的增量半监督超限学习机系统，包括超限学习平本文档来自技高网...

【技术保护点】
1.一种自适应确定隐层节点数的增量半监督超限学习机系统，包括超限学习平台(100)，其特征在于：所述超限学习平台(100)包括前馈神经网络单元(110)、半监督学习单元(120)、超限学习单元(130)和增量学习单元(140)；所述前馈神经网络单元(110)用于各个单元和模块的信号接收和输出；所述半监督学习单元(120)用于通过未标记样本和标记样本相结合的方式来进行模式识别工作；所述超限学习单元(130)用于构建半监督学习系统；所述增量学习单元(140)用于增加隐层节点，并确定隐层节点的数量；/n所述前馈神经网络单元(110)包括输入模块(111)、隐层模块(112)和输出模块(113)；所述...

【技术特征摘要】
1.一种自适应确定隐层节点数的增量半监督超限学习机系统，包括超限学习平台(100)，其特征在于：所述超限学习平台(100)包括前馈神经网络单元(110)、半监督学习单元(120)、超限学习单元(130)和增量学习单元(140)；所述前馈神经网络单元(110)用于各个单元和模块的信号接收和输出；所述半监督学习单元(120)用于通过未标记样本和标记样本相结合的方式来进行模式识别工作；所述超限学习单元(130)用于构建半监督学习系统；所述增量学习单元(140)用于增加隐层节点，并确定隐层节点的数量；
所述前馈神经网络单元(110)包括输入模块(111)、隐层模块(112)和输出模块(113)；所述输入模块(111)用于对学习样本的特征维度进行接收，并通过神经元传输给隐层模块(112)；所述隐层模块(112)用于通过激励函数对特征维度乘积进行计算，并将计算结果通过神经元传输给输出模块(113)；所述输出模块(113)用于将计算结果封装后输出；
所述半监督学习单元(120)包括归纳模块(121)、假设模块(122)和优化模块(123)；所述归纳模块(121)用于将接收到的学习样本归纳为未标记样本和标记样本；所述假设模块(122)用于对未标记样本和标记样本进行假设；所述优化模块(123)用于对外权矩阵进行优化处理；
所述超限学习单元(130)包括初始模块(131)和算法模块(132)；所述初始模块(131)用于对半监督学习单元(120)内的未标记样本、标记样本以及外权矩阵进行初始设置；所述算法模块(132)用于对初始设置后的未标记样本、标记样本以及外权矩阵进行算法计算；
所述增量学习单元(140)包括学习模块(141)和动态调整模块(142)；所述学习模块(141)用于对更新的知识进行渐进式的学习,并修正和加强以前的知识；所述动态调整模块(142)用于使学习模块(141)中神经元的权值向量和网络的拓扑结构能够随着输入学习数据的到来动态地进行调整。


2.根据权利要求1所述的自适应确定隐层节点数的增量半监督超限学习机系统，其特征在于：所述输入模块(111)、所述隐层模块(112)和所述输出模块(113)构成相邻层，相邻层的节点由连接权重进行全连接。


3.根据权利要求2所述的自适应确定隐层节点数的增量半监督超限学习机系统，其特征在于：所述隐层模块(112)中激励函数的公式如下：



其中，X＝(x1，x2，x3，…，xn)T为网络n维输入量；Wi＝(wi1，wi2，wi3，…，win)T为输入层与隐层第i个节点的阈值；vi为隐层第i个节点到输出层的连接权；为隐层活化函数；f(X)为网络输出。


4.根据权利要求1所述的自适应确定隐层节点数的增量半监督超限学习机系统，其特征在于：所述前馈神经网络单元(110)采用单隐层前馈网络学习算法，其算法如下：
训练样本x的隐层输出表示为一个行向量，则有：
h(x)＝[G(a1,b1,x),G(a2,b2,x),…G(ak,bk,x)；
式中，aj,bj(j＝1,2,…,k)为随机给出的第j个隐层节点对应的学习参数；k为隐层节点个数；G(x)为激励函数；
给定N个训练样本(xi,ti)，xi∈Rm,ti∈Rn，超限学习机的数学模型如下：
Hβ＝T；
式中，H为隐层输出矩阵；β为外权矩阵；T为目标矩阵，其中：



该模型的解为：





5.根据权利...

【专利技术属性】
技术研发人员：卢诚波，梅颖，高源，
申请(专利权)人：丽水学院，
类型：发明
国别省市：浙江;33