一种卷积神经网络的模型文件分层加载计算方法技术

本发明专利技术涉及一种卷积神经网络的模型文件分层加载计算方法，S1将模型文件加载到嵌入式设备的硬盘或SD卡等外部存储设备中，设该模型文件的大小为m

【技术实现步骤摘要】
一种卷积神经网络的模型文件分层加载计算方法


[0001]本专利技术涉及计算机视觉领域，尤其涉及一种卷积神经网络的模型文件分层加载计算方法。

技术介绍

[0002]随着深度学习在目标识别和检测领域的不断发展，继AlexNet以来，VGG、GoogleNet、ResNet等网络向网络层数更深地方向发展，以寻求更好的检测精度。相关研究人员运用增加卷积层数，增加卷积核的个数等方法来提取检测目标的深层次特征；尽管深度网络模型在许多问题中表现优越，但实际应用时受到了时间上和空间上的制约，大而深的网络模型运算量巨大，即使借助于图形处理器，也难以嵌入开发在计算资源和存储资源有限的设备上，时间上也难以满足日常生活中的许多场景需求；而高性能的计算机生产及维护成本较高，不适合大量普及推广。所以，在目前许多应用中，尤其是在移动端与嵌入式系统的应用部署，如自动驾驶、疲劳检测、机器人等受限于集成设备与处理速度，无法加载和计算从几十兆到上百兆不等神经网络模型文件，模型压缩研究应运而生，轻量化的深度神经网络不断被提出，然而一味的对模型进行压缩又会导致检测精度的损失，单纯的压缩本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种卷积神经网络的模型文件分层加载计算方法，其特征在于：包括如下步骤：S1、将模型文件加载到嵌入式设备的硬盘或SD卡等外部存储设备中，假设该模型文件的大小为m
w
；S2、将该嵌入式设备的内存大小记为m
a
，将该检测程序的最大运行内存记为m
b
，则该嵌入式设备能够分配给模型文件存储的内存大小m
c
为m
c
＝(m
a
‑
m
b
)
×
α，α为余量因子，通常根据设备资源的计算开销设置值为0.7
‑
0.9之间；S3、若m
w
＜＝m
c
,则直接将模型文件一次性加载到嵌入式设备的内存中，转至S5；S4、若m
w
＞m
c
，则模型文件需要分次加载；S5、进行卷积神经网络的前向计算过程。2.如权利要求1所述的卷积神经网络的模型文件分层加载计算方法，其特征在于：所述S4中分次加载的步骤具体如下：记模型文件计划加载次数为n，则前n
‑
1次计划单次加载的模型文件大小为则则第n次计划加载的模型文件大小为为了保证每一次加载的模型文件都是N个层的全部参数，记已加载模型文件大小为m
o
，m
o
初始值为0；记L为模型的第L个卷积层，L初始值为1；设第n次(n初始值为1)实际加载的模型文件大小为m
t
，m
t
初始值为第L个卷积层参数所占内存大小；记m
...

【专利技术属性】
技术研发人员：沈志熙，徐赞林，
申请(专利权)人：重庆大学，
类型：发明
国别省市：