【技术实现步骤摘要】
一种基于极限学习机的卷积神经网络学习算法
本专利技术涉及计算机人工智能
,具体的说是一种基于极限学习机的卷积神经网络学习算法,本算法是基于自编码的思想去学习带有偏差的卷积滤波器,通过重构具有截距项的标准化输入,以缩小极限学习机与深度学习之间的差距。
技术介绍
由于深度学习在ImageNet大规模视觉识别挑战赛中的突破,所有的获胜架构都有一个卷积的结构。而且许多卷积神经网络(简称CNN)已经在不同的领域被成功应用,如目标识别、语音识别、自然语言处理等领域。卷积神经网络通过反向传播分类误差采用BP算法进行训练,采用附加动量因子的梯度下降算法迭代更新网络参数。基于BP训练的卷积神经网络要求大量的数据,并且非常慢,实际上,先进模型的训练要求专门的硬件(GPU)或许需要花费几天甚至几周的时间。为了克服这些困难,一些工作已经提出了其他的基于极限学习机(简称ELM)的可选方案去训练卷积神经网络,它最初提出是为了训练单层前馈神经网络(SLFN)的学习型算法。在ELM理论的背景下,输入权重根据任意连续的分布函数随机产生,输出权重通过线性系统的最小化范数解析地计算。后来,Kas ...
【技术保护点】
1.一种基于极限学习机的卷积神经网络学习算法,其特征在于:本算法是基于自编码的思想去学习带有偏差的卷积滤波器,它包括以下步骤:步骤一、基于极限学习机的卷积神经网络学习算法ELM‑CNN输入:输入特征X输出:CONV参数:滤波器F和偏差B将输入特征标准化为均值为0,标准差为1的数据XN构成想要的目标T=[XN│1]随机产生输入权重W和偏差b计算隐藏矩阵H=G(XW+b)计算输出权重
【技术特征摘要】
1.一种基于极限学习机的卷积神经网络学习算法,其特征在于:本算法是基于自编码的思想去学习带有偏差的卷积滤波器,它包括以下步骤:步骤一、基于极限学习机的卷积神经网络学习算法ELM-CNN输入:输入特征X输出:CONV参数:滤波器F和偏差B将输入特征标准化为均值为0,标准差为1的数据XN构成想要的目标T=[XN│1]随机产生输入权重W和偏差b计算隐藏矩阵H=G(XW+b)计算输出权重计算滤波器和偏差重塑滤波矩阵F=reshape(Fmat)返回CONV参数滤波器F和偏差B步骤二、在获得了训练结果之后,得到参数滤波器F和偏差B,对于新的样本X进行特征提取,其过程为:输入:输入特征映射X输出:提取特征T计算隐藏矩阵H=G(XF+b)得到卷积特征T=H对于所得到的卷积特...
【专利技术属性】
技术研发人员:马宏宾,费庆,李楠楠,克莱,
申请(专利权)人:工极北京智能科技有限公司,
类型:发明
国别省市:北京,11
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。