一种基于Res-Gan的零样本学习算法制造技术

技术编号:22308879 阅读:57 留言:0更新日期:2019-10-16 08:57
一种基于Res‑Gan的零样本学习算法,属于机器学习中的零样本学习领域。包括:1):通过对属性空间的数据乘以权值,得到加权后的属性,实现属性的放大或抑制。2)在步骤1神经网络实现属性加权的基础上进行多激活函数融。3)在步骤2的基础上,设计残差结构,利用残差结构增加神经网络的深度,增加神经网络识别的准确率。4)在步骤3的基础上,设计生成对抗网络,生成对抗网络包含生成网络和判别网络,生成网络与残差结构相结合,通过两个网络之间的对抗,提高神经网络识别的准确率。本发明专利技术通过属性加权、多激活函数融合、残差结构、生成对抗网络等技术,使得神经网络训练的收敛速度大大提高,同时在AwA、CUB等数据集上的识别准确率也大幅提高。

A zero sample learning algorithm based on res Gan

【技术实现步骤摘要】
一种基于Res-Gan的零样本学习算法
本专利技术属于机器学习的零样本学习领域,旨在利用残差结构与生成对抗网络相融合,实现高准确率的零样本学习。
技术介绍
在零样本学习的过程中,训练类不可能覆盖到所有对象类,这会使得训练样本和测试样本出现不同分布的现象,用传统监督学习方法获得的分类器难以直接应用到零样本学习问题。零样本学习要实现已知类和未知类的知识共享,就要克服已知类和未知类数据分布不同的问题,从而实现迁移已知类的知识到帮助未知类的识别分类。视觉属性的概念由V.Ferrari等人在2007年提出,用视觉属性来建立图像的低层特征和类别标签之间的关系,从而进行图像分类。这一概念的提出引出了很多对视觉属性的定义和如何挖掘视觉属性的方法,如2009年A.Farhadi等人提出了区分属性和语义属性的概念,使用支持向量机来学习属性表示,再利用图像的属性向量来分类识别图像。语义属性是指描述物体的部位、形状和材料等词语,例如“有盖子”、“正方形”和“塑料”等等。而区分属性是在语义属性难以描述物体时,从区分类别的角度形成的,例如“老虎具有而狗熊不具有”、“狗具有而猪不具有”和“马具有而驴不具有”等。之本文档来自技高网...

【技术保护点】
1.一种基于Res‑Gan的零样本学习算法,其特征在于,所述的零样本学习算法包括如下步骤:步骤1,属性加权:通过对属性空间的数据乘以一个权值,得到加权后的属性,实现属性的放大或抑制;1)获取属性数据,对属性数据的每一维数据乘以一个随机权值作为训练参数,得到加权后的属性数据,权值在训练过程中自动调整;2)将加权后的属性数据输入神经网络,神经网络将加权的属性数据映射到特征空间;3)通过神经网络输出的数据与样本标签之间的误差计算损失函数;4)采用梯度下降法优化神经网络权值和第一层属性权值,实现属性权值的自主调节更新;步骤2,在步骤1神经网络实现属性加权的基础上进行多激活函数融;1)将神经网络第一层的...

【技术特征摘要】
1.一种基于Res-Gan的零样本学习算法,其特征在于,所述的零样本学习算法包括如下步骤:步骤1,属性加权:通过对属性空间的数据乘以一个权值,得到加权后的属性,实现属性的放大或抑制;1)获取属性数据,对属性数据的每一维数据乘以一个随机权值作为训练参数,得到加权后的属性数据,权值在训练过程中自动调整;2)将加权后的属性数据输入神经网络,神经网络将加权的属性数据映射到特征空间;3)通过神经网络输出的数据与样本标签之间的误差计算损失函数;4)采用梯度下降法优化神经网络权值和第一层属性权值,实现属性权值的自主调节更新;步骤2,在步骤1神经网络实现属性加权的基础上进行多激活函数融;1)将神经网络第一层的激活函数设置为sigmoid函数;2)将神经网络第二层至最后一层的激活函数设置为relu函数;步骤3,在步骤2的基础上,设计残差结构,利用残差结构增加神经网络的深度,增加神经网络识别的准确率;1)设计残差块,残差块包括两层神经网络;网络的输入为al,其代表网络第l层激活后的结果,神经网络每层的运算由两部分组成,包括线性运算和激活函数,运算可见公式6和公式7;zl+1=Wl+1*al+Bl+1(6)al+1=g(zl+1)(7)其中,Wl+1为网络第l+1层的权值,Bl+1为网络第l+1层的偏倚,zl+1为线性运算的结果;函数g为激活函数,al+1为第l+1层的输出;因此可知,网络第l层的输出al在网络第l+1层进行线性运...

【专利技术属性】
技术研发人员:孙亮林娇娇葛宏伟宋俊杰
申请(专利权)人:大连理工大学
类型:发明
国别省市:辽宁,21

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1