一种图像编解码神经网络分层定点化方法技术

本发明专利技术公开一种图像编解码神经网络分层定点化方法。该方法的步骤如下：(1)选取合适的静态图像训练集及测试集建立并训练端到端的图像编解码网络；(2)对所述图像编解码网络的参数和激活值进行定点化，其中，对于网络不同层的参数和激活值采用不同的定点化比特数，并对需要进行浮点运算的激活函数进行简化；(3)重新训练经步骤(2)定点化后的图像编解码网络；(4)将训练后的图像编解码网络的输出数据，经过量化和无损熵编码输出作为压缩数据。本发明专利技术的方法通过对不同的网络层采用不同的量化系数，优化了定点化效果。优化了定点化效果。优化了定点化效果。

【技术实现步骤摘要】
一种图像编解码神经网络分层定点化方法


[0001]本专利技术涉及神经网络压缩领域，具体涉及一种图像编解码神经网络分层定点化方法。

技术介绍

[0002]近年来，人工神经网络发展到了深度学习(deep learning)阶段。深度学习试图使用包含复杂结构或由多重非线性变换构成的多个处理层对数据进行高层抽象的一系列算法，其强大表达能力使得其在各个机器学习的任务上取到了最好的效果，在视频和图像处理上的表现在目前也超过了其它方法。而结合深度学习中Autoencoder的基本思路做图像和视频压缩，用深度学习的方法来提供一个新的视频编码和解码的方法，对于以后的视频数据压缩领域发展是一个很好的开始工作，也便于未来在视频压缩方向上，神经网络的新方案在整个系统的完善过程中有着比传统方法更好的表现和前景。
[0003]但是，现有的图像编解码网络参数一般以浮点形式存储，导致其存储空间需求量大。同时浮点矩阵的乘法运算耗时长，运行内存需求大，限制了基于深度学习的图像编解码方案的实用性。
[0004]现有的神经网络定点化方案大多是面向图像分类任务，并对所有本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种图像编解码神经网络分层定点化方法，其特征在于，该方法的步骤如下：(1)选取合适的静态图像训练集及测试集建立并训练端到端的图像编解码网络；(2)对所述图像编解码网络的参数和激活值进行定点化，其中，对于网络不同层的参数和激活值采用不同的定点化比特数，并对需要进行浮点运算的激活函数进行简化；(3)重新训练经步骤(2)定点化后的图像编解码网络；(4)将训练后的图像编解码网络的输出数据，经过量化和无损熵编码输出作为压缩数据。2.根据权利要求1所述的一种图像编解码神经网络分层定点化方法，其特征在于，步骤(1)中，所述图像编解码网络的编码端包括主编码器、超先验编解码器和上下文模型，主编码器用于将输入原始图像变换为特征图，超先验编解码器及上下文模型用于根据特征图估计特征图中像素的概率分布提供给熵编码器；在编码端，超先验编码器产生的压缩数据采用固定分布进行概率计算，经熵编码后作为额外信息加入到最终的压缩码流中...

【专利技术属性】
技术研发人员：曹汛，邓智威，沈桂竹，蔡李靖，戴波，姚一杨，周凯来，
申请(专利权)人：国网浙江省电力有限公司国网浙江省电力有限公司信息通信分公司，
类型：发明
国别省市：