一种鲁棒的数据增量宽度学习方法技术

本发明专利技术公开了一种鲁棒的数据增量宽度学习方法，包括以下步骤：初始批次数据输入特征提取模块，经过特征提取后的数据进入记忆模块生成记忆矩阵并储存，再通过权重计算模块得到初始模型的权重；增量数据通过增量特征提取模块提取增量特征，增量特征经过增量记忆模块生成增量记忆矩阵，记忆快速更新模块将增量记忆矩阵与所述的记忆矩阵融合，得到新的记忆矩阵并储存，新的记忆矩阵通过权重计算模块得到增量模型的权重；后续还有其他的增量数据，则重复上述中的流程，整个网络可以按照这样的方式持续进行动态更新。本发明专利技术记忆模块来存储宽度学习网络所学知识，以确保宽度学习网络在增量学习过程中不会遗忘先前学到的知识。

【技术实现步骤摘要】

本专利技术属于宽度学习，具体涉及一种鲁棒的数据增量宽度学习方法。

技术介绍

1、宽度学习系统支持在添加新数据后快速更新网络，无需重新训练。在宽度学习首次训练完成后，会存储一些参数矩阵和特征矩阵的伪逆。当新数据到达时，可以使用存储的参数直接提取特征，从而获得新数据的特征矩阵。这个特征矩阵与旧特征矩阵垂直拼接，形成完整的新特征矩阵。数据增量宽度学习(broad learning system an effective andefficient incremental learning system without the need for deep architecture)利用特征矩阵的伪逆来存储学习到的知识，使用greville定理的转置和扩展版本来更新网络权重，避免重新计算整个矩阵的伪逆。这样，宽度学习系统就可以在不重新训练的情况下实现网络权重的更新。

2、宽度学习系统的数据增量算法存在其他版本。鉴于宽度学习系统本身采用岭回归，因此还可以采用岭回归中的平均法(communication efficient algorithms forstat本文档来自技高网...

【技术保护点】

1.一种鲁棒的数据增量宽度学习方法，其特征在于，包括以下步骤：

2.根据权利要求1所述的一种鲁棒的数据增量宽度学习方法，其特征在于，所述特征提取模块包括：

3.根据权利要求1所述的一种鲁棒的数据增量宽度学习方法，其特征在于，所述特征提取模块为稀疏自编码器，并选择K-均值聚类、卷积神经网络、变压器。

4.根据权利要求1所述的一种鲁棒的数据增量宽度学习方法，其特征在于，所述记忆模块包括：

5.根据权利要求1所述的一种鲁棒的数据增量宽度学习方法，其特征在于，所述权重计算模块使用预计算的岭回归获得权重，具体为：

6.根据权利要求1所述的...

【技术特征摘要】

1.一种鲁棒的数据增量宽度学习方法，其特征在于，包括以下步骤：

2.根据权利要求1所述的一种鲁棒的数据增量宽度学习方法，其特征在于，所述特征提取模块包括：

3.根据权利要求1所述的一种鲁棒的数据增量宽度学习方法，其特征在于，所述特征提取模块为稀疏自编码器，并选择k-均值聚类、卷积神经网络、变压器。

4.根据权利要求1所述的一种鲁棒的数据增量宽度学习方法，其特征在于，所述记忆模块包括：

5.根据权利要求1所述的一种鲁棒的数据增量宽度学习方法，其特征在于，所述权重计算模块使用预计算的岭回归获得权重，具体为：

6.根据权利要求1所述的一种鲁棒的数据增量宽度学习方法，其特征在于，所述权重计算模块使用...

【专利技术属性】
技术研发人员：张通，钟林君，郭继凤，陈俊龙，刘竹琳，
申请(专利权)人：华南理工大学，
类型：发明
国别省市：