神经网络自适应退出方法、装置、设备及可读存储介质制造方法及图纸

本申请公开了一种神经网络自适应退出方法、装置、设备及可读存储介质，该方法包括步骤：获取待处理的图像数据，以及获取场景要求；将所述图像数据输入至多退出点网络模型；所述多退出点网络模型为基于图像训练样本和所述图像训练样本的信息标签对待训练的多分支网络模型进行迭代训练得到的，所述多分支网络模型共有预设数量个退出分支；选取所述多退出点网络模型中符合所述场景要求的退出分支，并基于所述退出分支，完成对所述图像数据的分类处理任务。本申请实现了获取待处理的图像数据，以及获取场景要求，将图像数据输入至多退出点网络模型，并选取该网络模型中符合场景要求的退出分支，以完成对所述图像数据的分类处理任务。务。务。

【技术实现步骤摘要】
神经网络自适应退出方法、装置、设备及可读存储介质


[0001]本申请涉及神经网络模型领域，尤其涉及一种神经网络自适应退出方法、装置、设备及可读存储介质。

技术介绍

[0002]相比传统的机器学习，神经网络能提取更多有效的特征数据，并展现更出色的精度性能，但需要耗费大量的计算和存储资源。同时随着神经网络方面的不断发展，出现越来越多复杂的神经网络模型，虽然该类神经网络模型的精度提升了，但是其推理时间同样延长了。
[0003]针对需要神经网络模型极短时间响应的场景时，当前神经网络模型执行全部的神经网络的计算层时，该神经网络模型的推理效率无法满足当前场景的响应要求。

技术实现思路

[0004]有鉴于此，本申请提供一种神经网络自适应退出方法、装置、设备及可读存储介质，旨在提高神经网络模型对不同场景的适应性。
[0005]为实现上述目的，本申请提供一种神经网络自适应退出方法，所述神经网络自适应退出方法包括以下步骤：
[0006]获取待处理的图像数据，以及获取场景要求；
[0007]将所述图像数据输入至多退出点本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种神经网络自适应退出方法，其特征在于，所述神经网络自适应退出方法包括以下步骤：获取待处理的图像数据，以及获取场景要求；将所述图像数据输入至多退出点网络模型；所述多退出点网络模型为基于图像训练样本和所述图像训练样本的信息标签对待训练的多分支网络模型进行迭代训练得到的，所述多分支网络模型共有预设数量个退出分支；选取所述多退出点网络模型中符合所述场景要求的退出分支，并基于所述退出分支，完成对所述图像数据的分类处理任务。2.如权利要求1所述的神经网络自适应退出方法，其特征在于，所述选取所述多退出点网络模型中符合所述场景要求的退出分支，包括：计算所述多退出点网络模型的各退出分支的退出时延，以及计算所述各退出分支的退出精度；选取所述退出时延和/或所述退出精度符合所述场景要求的退出分支；若不存在符合所述场景要求的退出分支，则选取所述各退出分支中退出时延最低的退出分支。3.如权利要求2所述的神经网络自适应退出方法，其特征在于，所述选取所述退出时延和/或所述退出精度符合所述场景要求的退出分支，包括：在所述场景要求包括时延要求和精度要求时，确定所述各退出分支的退出精度是否满足所述精度要求；若不满足，则选取所述各退出分支中退出时延最低的退出分支。4.如权利要求2所述的神经网络自适应退出方法，其特征在于，所述计算所述多退出点网络模型的各退出分支的退出时延，包括：计算所述图像数据压缩过程所需的压缩时延，以及计算回复压缩后的图像数据的恢复时延；计算所述多退出点网络模型中本地设备网络层和服务器端网络层之间的数据传输延迟；计算所述多退出点网络模型的各退出分支的网络推理时延；基于所述压缩时延、所述恢复时延、所述数据传输延迟和所述网络推理时延，计算所述各退出分支的退出时延。5.如权利要求1所述的神经网络自适应退出方法，其特征在于，所述多退出点网络模型包括本地设备网络层和服务器端网络层，所述将所述图像数据输入至多退出点网络模型，包括：将所述图像数据输入至本地设备网络层，并基于所述本地设备网络层，对所述图像数据进行压缩处理，以降低所述设备网络层与服务器端网络层之间数据传...

【专利技术属性】
技术研发人员：邹暾，侯杰华，李益文，钟湘琼，刘煜，杨帆，崔建军，刘业鸿，崔凯，危志军，潘文静，尹华良，蒋惠春，段邦和，罗先学，李强，
申请(专利权)人：中国烟草总公司湖南省公司，
类型：发明
国别省市：