基于神经网络输入输出量化的图像分析系统、方法和设备技术方案

本发明专利技术属于卷积神经网络领域，具体涉及了基于神经网络输入输出量化的图像分析系统、方法和设备，旨在解决现有技术进行网络轻量化时，不对输入输出层进行量化而导致整个神经网络量化不统一的问题。本发明专利技术包括：对输入图片进行温度计编码生成n倍通道数的低比特数的通道扩展图像，将输入层的卷积核通道相应的扩展为n倍，通过量化的输入层进行卷积运算并传输至隐含层获得特征图像；对输出层进行分支量化，把各分支量化后的结果进行权重加和得到神经网络最终的输出。本发明专利技术通过对输入数据进行温度计编码且输入层响应的扩展实现输入的量化，对输出层采取多分支结构来代替单一卷积结构实现量化，保持了网络整体量化的一致性，且几乎不损失精度。

【技术实现步骤摘要】
基于神经网络输入输出量化的图像分析系统、方法和设备
本专利技术属于卷积神经网络领域，具体涉及了一种基于神经网络输入输出量化的图像分析系统、方法和设备。
技术介绍
近年来由于对神经网络高精度的要求，网络模型不断加深加宽，而又大又深的网络在移动端的部署成为一大难题，因此相应的衍生出了很多网络轻量化设计方法，量化就是其中比较常用的方式，量化包括权重的量化和激活值的量化。但是，在神经网络量化的领域中，学界公认的方法是不对输入层和输出层进行量化。这是因为输入层和输出层对于网络整体精度的影响是至关重要的，输入层决定了网络提取的基础特征的准确性，输出层是在训练过程中与网络的真值距离最近的一层，如果输出层不准确将会对网络整体损失的计算造成很大的影响。但是，如果不对输入层和输出层进行量化，而中间的网络层却都进行量化时，就失去了网络整体的一致性。
技术实现思路
为了解决现有技术中的上述问题，即现有技术在进行网络轻量化时，不对输入输出层进行量化而导致整个神经网络量化不统一的问题，本专利技术提供了一种基于神经网络输入输出量化的图像分析系统，包括：图片获取模块、输入数据量化模块、输入层量化模块、隐含层处理模块、输出层量化模块和输出模块：所述图片获取模块，配置为获取输入图片，并输入卷积神经网络的输入层；所述输入数据量化模块，配置为对所述输入图片进行温度计编码生成n倍通道数的低比特数的通道扩展图像；所述输入层量化模块，配置为将卷积神经网络输入层的卷积核通道扩展为n倍获得量化的输入层；所述隐含层处理模块，配置为基于所述通道扩展图像，通过所述量化的输入层进行卷积运算并传输至隐含层，获得特征图像；所述输出层量化模块，配置为将对应的卷积神经网络输出层的最后一层权重设置为k个分支，并将每个分支的激活值进行低比特数的量化，生成量化后的激活值，进而获得多分支结构的输出层；所述输出模块，配置为基于所述特征图像，通过多分支结构的输出层的各分支输出加权累加后获得神经网络最终的计算结果。在一些优选的实施方式中，所述输入数据量化模块，具体包括将8比特的RGB三通道数据的输入图片，通过温度计编码的方式生成4比特的17通道的通道扩展图像，n取值17。在一些优选的实施方式中，所述输入层量化模块，具体包括将卷积神经网络的卷积核通道数由3个扩展为51个，此时n取值17。在一些优选的实施方式中，所述输出层量化模块具体为，将所述输出层的激活值量化为4比特的激活值即量化后的激活值，将输出层的最后一层权重由一个分支增加到k个分支。在一些优选的实施方式中，所述k个分支包括正整数分支、负整数分支、正小数分支和负小数分支。在一些优选的实施方式中，还包括卷积训练模块，具体为重复图片获取模块、输入数据量化模块、输入层量化模块、隐含层处理模块、输出层量化模块和输出模块的功能生成量化特征图像；其中，正数的整数部分与所述正整数分支计算正整数L1损失，正数的小数部分与所述正小数分支计算正小数L1损失，负数的整数部分与所述负整数分支计算负整数L1损失，负数的小数部分与所述负小数分支计算负小数L1损失。所述输出层量化模块，可把输出层分支设置为任意数量，各分支加权值可分别设为×2、×1、/2、/4、/8或/16。本专利技术的另一方面，提出了一种基于神经网络输入输出量化的图像分析方法，所述方法包括：步骤S100，获取输入图片，并输入卷积神经网络的输入层；步骤S200，对所述输入图片进行温度计编码生成n倍通道数的低比特数的通道扩展图像；步骤S300，将卷积神经网络输入层的卷积核通道扩展为n倍获得量化的输入层；步骤S400，基于所述通道扩展图像，通过所述量化的输入层进行卷积运算并传输至隐含层，获得特征图像；步骤S500，将对应的卷积神经网络输出层的最后一层权重设置为k个分支，并将每个分支的激活值进行低比特数的量化，生成量化后的激活值，获得多分支结构的输出层；步骤S600，基于所述特征图像，通过多分支结构的输出层的各分支输出加权累加后获得神经网络最终的计算结果。本专利技术的第三方面，提出了一种电子设备，包括：至少一个处理器；以及与至少一个所述处理器通信连接的存储器；其中，所述存储器存储有可被所述处理器执行的指令，所述指令用于被所述处理器执行以实现上述的基于神经网络输入输出量化的图像分析方法。本专利技术的第四方面，提出了一种计算机可读存储介质，所述计算机可读存储介质存储有计算机指令，所述计算机指令用于被所述计算机执行以实现上述的基于神经网络输入输出量化的图像分析方法。本专利技术的有益效果：(1)本专利技术基于神经网络输入输出量化的图像分析系统，通过对神经网络输入进行温度计编码和输出分支设计方法，实现了在保持网络整体量化一致性的前提下对输入和输出层进行量化，几乎不损失网络精度，提高了神经网络轻量化的精确度。本专利技术实现了把网络的各个层都部署在轻量级的终端设备中，而不需要为输入层和输出层增加额外的处理模块，且几乎不损失网络的精度。附图说明通过阅读参照以下附图所作的对非限制性实施例所作的详细描述，本申请的其它特征、目的和优点将会变得更明显：图1是本专利技术实施例的基于神经网络输入输出量化的图像分析系统的结构框图；图2是本专利技术实施例的基于神经网络输入输出量化的图像分析方法的流程示意图；图3是本专利技术实施例的基于神经网络输入输出量化的图像分析系统中温度计编码的原理示意图；图4是本专利技术的基于神经网络输入输出量化的图像分析系统中卷积核单通道扩展的原理示意图；图5是本专利技术的基于神经网络输入输出量化的图像分析系统中卷积核三通道扩展的原理示意图。具体实施方式下面结合附图和实施例对本申请作进一步的详细说明。可以理解的是，此处所描述的具体实施例仅用于解释相关专利技术，而非对该专利技术的限定。另外还需要说明的是，为了便于描述，附图中仅示出了与有关专利技术相关的部分。需要说明的是，在不冲突的情况下，本申请中的实施例及实施例中的特征可以相互组合。下面将参考附图并结合实施例来详细说明本申请。本专利技术提供一种基于神经网络输入输出量化的图像分析系统，本系统提出神经网络输入温度计编码和输出分支设计方法，在保持网络整体量化一致性的前提下，对输入和输出层进行量化，却几乎不损失网络精度，提高了神经网络轻量化后的计算精度。本专利技术的一种基于神经网络输入输出量化的图像分析系统，包括：图片获取模块、输入数据量化模块、输入层量化模块、隐含层处理模块、输出层量化模块和输出模块；所述图片获取模块，配置为获取输入图片，并输入卷积神经网络的输入层；所述输入数据量化模块，配置为对所述输入图片进行温度计编码生成n倍通道数的低比特数的通道扩展图像；所述输入层量化模块，配置为将卷积神经网络输入层的卷积核通道扩展为n倍获得量化的输入层；所述隐含层处理模块，基于所述通道扩展图像，配置为通过所述量化的输入层进行卷积运算并传输至隐含层，本文档来自技高网...

【技术保护点】
1.一种基于神经网络输入输出量化的图像分析系统，其特征在于，所述系统包括：图片获取模块、输入数据量化模块、输入层量化模块、隐含层处理模块、输出层量化模块和输出模块；/n所述图片获取模块，配置为获取输入图片，并输入卷积神经网络的输入层；/n所述输入数据量化模块，配置为对所述输入图片进行温度计编码生成n倍通道数的低比特数的通道扩展图像；/n所述输入层量化模块，配置为将卷积神经网络输入层的卷积核通道扩展为n倍获得量化的输入层；/n所述隐含层处理模块，配置为基于所述通道扩展图像，通过所述量化的输入层进行卷积运算并传输至隐含层，并获得特征图像；/n所述输出层量化模块，配置为将对应的卷积神经网络输出层的最后一层权重设置为k个分支，并将每个分支的激活值进行低比特数的量化，生成量化后的激活值，进而获得多分支结构的输出层；；/n所述输出模块，配置为基于所述特征图像，通过多分支结构的输出层的各分支输出加权累加后获得神经网络最终的计算结果。/n

【技术特征摘要】
1.一种基于神经网络输入输出量化的图像分析系统，其特征在于，所述系统包括：图片获取模块、输入数据量化模块、输入层量化模块、隐含层处理模块、输出层量化模块和输出模块；
所述图片获取模块，配置为获取输入图片，并输入卷积神经网络的输入层；
所述输入数据量化模块，配置为对所述输入图片进行温度计编码生成n倍通道数的低比特数的通道扩展图像；
所述输入层量化模块，配置为将卷积神经网络输入层的卷积核通道扩展为n倍获得量化的输入层；
所述隐含层处理模块，配置为基于所述通道扩展图像，通过所述量化的输入层进行卷积运算并传输至隐含层，并获得特征图像；
所述输出层量化模块，配置为将对应的卷积神经网络输出层的最后一层权重设置为k个分支，并将每个分支的激活值进行低比特数的量化，生成量化后的激活值，进而获得多分支结构的输出层；；
所述输出模块，配置为基于所述特征图像，通过多分支结构的输出层的各分支输出加权累加后获得神经网络最终的计算结果。


2.根据权利要求1所述的基于神经网络输入输出量化的图像分析系统，其特征在于，所述输入数据量化模块，具体包括将8比特的RGB三通道数据的输入图片，通过温度计编码的方式生成4比特的17通道的通道扩展图像，n取值17。


3.根据权利要求2所述的基于神经网络输入输出量化的图像分析系统，其特征在于，所述输入层量化模块，具体包括将卷积神经网络的卷积核通道数由3个扩展为51个，此时n取值17。


4.根据权利要求1所述的基于神经网络输入输出量化的图像分析系统，其特征在于，所述输出层量化模块具体为，将所述输出层的激活值量化为4比特的激活值即量化后的激活值，将输出层的最后一层权重由一个分支增加到k个分支。


5.根据权利要求4所述的基于神经网络输入输出量化的图像分析系统，其特征在于，所述k个分支包括正整数分支、负整数分支、正小数分支和负小数分支。


6.根据权利要求5所述的神经网络输入层输出层量化的图像分...

【专利技术属性】
技术研发人员：张峰，李淼，池昭波，张翠婷，马春宇，赵婷，
申请(专利权)人：中国科学院自动化研究所，
类型：发明
国别省市：北京;11