【技术实现步骤摘要】
【国外来华专利技术】一种用于神经网络的卷积方法及装置
本申请涉及计算机
,尤其涉及一种用于神经网络的卷积方法及装置。
技术介绍
神经网络在图像、语音识别等领域有广泛的应用前景,神经网络中的深度学习过程中卷积运算占据总计算量的90%或以上,是最主要的计算量来源。在卷积运算时,由于Relu等激活函数的广泛应用,导致很多卷积运算的最终结果为0。而0值在后续的计算中对结果不会产生任何贡献,顾业界广泛认为计算结果为0的卷积运算在深度学习中是无效操作。无效操作不仅浪费了处理单元的计算能力,无效操作所引起的数据搬移还会导致数据带宽的浪费。
技术实现思路
本申请实施例提供一种用于神经网络的卷积方法及装置,避免深度学习过程中的无效操作,以节约处理计算能力以及节省数据带宽。为达到上述目的,本申请的实施例采用如下技术方案:第一方面,提供一种用于神经网络的卷积方法,该方法可以包括:对原始数据采样,以获取至少一个采样数据和该原始数据中除采样数据以外的至少一个剩余数据,剩余数据包括待处理剩余数据;当该待处理剩余数据的参考采样数据与神经网络中的卷积核的卷积结果满足预设条件时,将该待处理剩余数据与该卷积核进行卷积计算,以获得该待处理剩余数据与该卷积核的卷积结果;当该参考采样数据与该卷积核的卷积结果不满足预设条件时,将该待处理剩余数据与卷积核的卷积结果设置为0。其中,参考采样数据为采样数据中的至少一个数据,且参考采样数据存在于原始数据中的位置与待处理剩余数据存在于原始数据中的位置呈预设位置关系。通过本申请提供的用于神经网络的卷积 ...
【技术保护点】
一种用于神经网络的卷积方法,其特征在于,包括:/n对原始数据采样,以获取至少一个采样数据和所述原始数据中除所述采样数据以外的至少一个剩余数据,所述剩余数据包括待处理剩余数据;/n当所述待处理剩余数据的参考采样数据与所述神经网络中的卷积核的卷积结果满足预设条件时,将所述待处理剩余数据与所述卷积核进行卷积计算,以获得所述待处理剩余数据与所述卷积核的卷积结果;/n当所述参考采样数据与所述卷积核的卷积结果不满足所述预设条件时,将所述待处理剩余数据与所述卷积核的卷积结果设置为0;/n其中,所述参考采样数据为所述采样数据中的至少一个数据,且所述参考采样数据存在于所述原始数据中的位置与所述待处理剩余数据存在于所述原始数据中的位置呈预设位置关系。/n
【技术特征摘要】
【国外来华专利技术】一种用于神经网络的卷积方法,其特征在于,包括:
对原始数据采样,以获取至少一个采样数据和所述原始数据中除所述采样数据以外的至少一个剩余数据,所述剩余数据包括待处理剩余数据;
当所述待处理剩余数据的参考采样数据与所述神经网络中的卷积核的卷积结果满足预设条件时,将所述待处理剩余数据与所述卷积核进行卷积计算,以获得所述待处理剩余数据与所述卷积核的卷积结果;
当所述参考采样数据与所述卷积核的卷积结果不满足所述预设条件时,将所述待处理剩余数据与所述卷积核的卷积结果设置为0;
其中,所述参考采样数据为所述采样数据中的至少一个数据,且所述参考采样数据存在于所述原始数据中的位置与所述待处理剩余数据存在于所述原始数据中的位置呈预设位置关系。
根据权利要求1所述的用于神经网络的卷积方法,其特征在于,所述参考采样数据为所述采样数据中的一个数据,所述待处理剩余数据的参考采样数据与所述神经网络中的卷积核的卷积结果满足预设条件,包括:
所述参考采样数据与所述卷积核的卷积结果大于0。
根据权利要求1所述的用于神经网络的卷积方法,其特征在于,所述参考采样数据为所述采样数据中的多个数据,所述待处理剩余数据的参考采样数据与所述神经网络中的卷积核的卷积结果满足预设条件,包括:
多个所述参考采样数据与所述卷积核的卷积结果的平均值大于0;
或者,
多个所述参考采样数据与所述卷积核的卷积结果中的最大值大于0;
或者,
多个所述参考采样数据与所述卷积核的卷积结果中的最小值大于0。
根据权利要求1至3任一项所述的用于神经网络的卷积方法,其特征在于,所述参考采样数据存在于所述原始数据中的位置与所述待处理剩余数据存在于所述原始数据中的位置呈预设位置关系,包括:
在所述原始数据中,所述参考采样数据与所述待处理剩余数据所处的位置相邻。
根据权利要求1至4任一项所述的用于神经网络的卷积方法,其特征在于,所述神经网络包括多个所述卷积核,所述方法还包括:
将每个所述采样数据与每个所述卷积核的卷积结果以及每个所述剩余数据与每个所述卷积核的卷积结果,按照每个所述采样数据和每个所述剩余数据存在于所述原始数据中的位置进行组合,以得到所述原始数据在所述神经网络中的卷积结果。
根据权利要求1至5任一项所述的用于神经网络的卷积方法,其特征在于,所述原始数据为一帧图像中的像素;
对应的,所述对原始数据采样,以获取至少一个采样数据和所述原始数据中除所述采样数据以外的至少一个剩余数据,包括:
对所述图像中的像素进行采样,以获得至少一个采样像素集合和至少一个剩余像素集合;
对应的,所述参考采样数据为所述采样数据中的至少一个数据,且所述参考采样数据存在于所述原始数据中的位置与所述待处理剩余数据存在于所述原始数据中的位置呈预设位置关系,包括:
所述参考采样数据为所述至少一个采样像素集合中的第一像素集合,所述待处理剩余数据为所述至少一个剩余像素集合中的第二像素集合,且在所述图像中,所述第一像素集合和所述第二像素集合相邻。
一种用于神经网络的卷积装置,其特征在于,包括:
采样单元,用于对原始数据采样,以获取至少一个采样数据和所述原始数据中除所述采样数据以外的至少一个剩余数据,所述剩余数据包括待处理剩余数据;
卷积单元,用于将每个所述采样数据与所述神经网络中的卷积核进行卷积计算,以获得每个所述采样数据与所述卷积核的卷积结果;
判断单元,用于判断所述待处理剩余数据的参考采样数据与所述卷积核的卷积结果是否满足预设条件;
所述卷积单元还用于,当所述判断单元判断所述待处理剩余数据的参考采样数据与所述神经网络中的...
【专利技术属性】
技术研发人员:董镇江,杨超然,刘虎,陈海,
申请(专利权)人:华为技术有限公司,
类型:发明
国别省市:广东;44
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。