识别图像的方法和设备以及训练神经网络的方法和设备技术

技术编号:28052610 阅读:66 留言:0更新日期:2021-04-14 13:16
公开识别图像的方法和设备以及训练神经网络的方法和设备。所述方法包括:获得待识别的图像数据作为神经网络的输入数据;针对神经网络内的至少一个层中的当前层,通过对当前层的输入数据执行当前层的操作来产生当前层的输出数据;基于当前层的每个输出通道的局部最大值,通过对全局恢复数据进行初次量化来获得局部量化数据;将局部量化数据存储在存储器中;基于与当前层对应的全局最大值,通过对局部恢复数据进行二次量化来获得全局量化数据;将全局量化数据作为下一层的输入数据提供给下一层,以执行下一层的操作;以及基于神经网络的最终层的操作产生的输出数据,输出图像识别结果。别结果。别结果。

【技术实现步骤摘要】
识别图像的方法和设备以及训练神经网络的方法和设备
[0001]本申请要求于2019年10月11日在韩国知识产权局提交的第10-2019-0126298号韩国专利申请的权益,所述韩国专利申请的公开通过引用完整地包含于此。


[0002]本公开涉及识别图像的方法和设备以及训练用于识别图像的神经网络的方法和设备。

技术介绍

[0003]神经网络被广泛地用于图像识别技术。神经网络是基于使用生物大脑作为模型的计算架构的计算系统。根据神经网络技术的最新发展,在各种类型的电子系统中通过使用神经网络设备来分析输入图像数据,并提取有效信息。
[0004]神经网络设备对复杂的输入图像数据执行大的计算量。因此,需要高效地处理网络操作的技术,以允许神经网络设备分析输入图像数据并实时提取信息。特别地,低功率和高性能嵌入式系统(诸如,智能电话)具有有限的资源,因此,需要用于在减少处理复杂的输入图像数据所需的资源的数量的同时最小化各种处理操作中的准确度损失的技术。

技术实现思路

[0005]本公开的各种实施例提供一种用于量化神经网络的数据的方法本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种识别图像的方法,所述方法包括:获得待识别的图像数据作为神经网络的输入数据;针对神经网络内的至少一个层中的当前层,通过对当前层的输入数据执行当前层的操作来产生当前层的输出数据,其中,当前层的输出数据包括多个输出通道;基于当前层的每个输出通道的局部最大值,通过对全局恢复数据进行初次量化来获得局部量化数据,全局恢复数据基于与前一层对应的全局最大值从由当前层的操作产生的输出数据而恢复;将局部量化数据存储在存储器中;基于与当前层对应的全局最大值,通过对局部恢复数据进行二次量化来获得全局量化数据,局部恢复数据基于每个输出通道的局部最大值从局部量化数据而恢复;将全局量化数据作为下一层的输入数据提供给下一层,以执行下一层的操作;以及基于神经网络的最终层的操作产生的输出数据,输出图像识别结果。2.根据权利要求1所述的方法,其中,获得局部量化数据的步骤包括:通过基于与前一层对应的全局最大值,针对每个输出通道恢复由当前层的操作产生的输出数据,来获得全局恢复数据,与前一层对应的全局最大值基于通过恢复由前一层的操作产生的输出数据获得的数据而生成。3.根据权利要求1所述的方法,其中,获得局部量化数据的步骤包括:通过基于作为每个输出通道的全局恢复数据的最大值的局部最大值,对每个输出通道的全局恢复数据进行初次量化,来获得局部量化数据,使得每个输出通道的全局恢复数据的最大值被量化为相同值。4.根据权利要求1所述的方法,其中,获得全局量化数据的步骤包括:通过基于作为每个输出通道的全局恢复数据的最大值的局部最大值,恢复每个输出通道的局部量化数据来获得局部恢复数据,使得局部量化数据被恢复为初次量化之前的数据。5.根据权利要求1所述的方法,其中,获得全局量化数据的步骤包括:通过基于作为局部恢复数据的最大值的全局最大值,对每个输出通道的局部恢复数据进行二次量化来获得全局量化数据,使得局部恢复数据被量化到相同的尺度。6.根据权利要求1所述的方法,其中,获得局部量化数据的步骤还包括:基于与前一层对应的全局最大值恢复由当前层的操作产生的输出数据;以及通过对恢复的数据执行池化操作、排列归一化或使用激活函数的激活,来获得全局恢复数据。7.根据权利要求1所述的方法,还包括:存储通过计算当前层的所有输出通道中的每个输出通道的全局恢复数据的最大值而获得的局部最大值;以及将与当前层对应的全局最大值存储在寄存器中,与当前层对应的全局最大值通过计算局部最大值中的最大值而获得。8.根据权利要求1所述的方法,其中,针对每个输出通道顺序地执行获得局部量化数据的步骤。9.根据权利要求1所述的方法,其中,当当前层为神经网络的第一层时,通过对待识别的图像数据执行第一层的操作来产生第一层的输出数据,当当前层为除了神经网络的第一
层之外的层时,通过对基于前一层的输出数据获得的全局量化数据执行当前层的操作来产生当前层的输出数据。10.一种训练用于识别图像的神经网络的方法,所述方法包括:获得训练图像数据;基于训练图像数据对神经网络执行训练,其中,在训练的每次迭代中,针对神经网络内的至少一个层中的当前层,基于当前层的输出数据获得下一层的输入数据的步骤包括:基于当前层的每个输出通道的局部最大值,通过对全局恢复数据进行初次量化来获得局部量化数据,当前层的输出数据包括多个输出通道,全局恢复数据基于与前一层对应的全局最大值从由当前层的操作产生的输出数据而恢复;将局部量化数据存储在存储器中;基于与当前层对应的全局最大值,通过对局部恢复数据进行二次量化来获得全局量化数据,局部恢复数据基于每个输出通道的局部最大值从局部量化数据而恢复;以及将全局量化数据作为下一层的输入数据提供给下一层,以执行下一层的操作。11.根据权利要求10所述的方法,其中,当前层的操作和下一层的操作基于反向传播,并且当前层的操作的输出数据和下一层的操作的输入数据包括损失梯度和权重梯度中的任意一种。12.根据权利要求10所述的方法,其中,当当前层为神经网络的第一层时,通过对训练图像数据执行当前层的操作来产生第一层的输出数据;当当前层为神经网络的第一层之外的层时,通过对基于前一层的输出数据获得的全局量化数据执行当前层的操作来产生当前层的输出数据。13.一种存储指令的非暂时性计算机可读存储介质,所述指令当由处理器执行时,配置处理...

【专利技术属性】
技术研发人员:河相源金利燮崔胜圭申载康
申请(专利权)人:韩国科学技术院
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1