深度学习中非常规卷积的实现方法、电子设备和存储介质技术

技术编号:36907744 阅读:67 留言:0更新日期:2023-03-18 09:26
本发明专利技术提供了一种深度学习中非常规卷积的实现方法、电子设备和机器可读存储介质。非常规卷积指深度学习的推理软件当前不支持的卷积。该实现方法包括:将待实现的非常规卷积的计算用多个常规卷积算子的计算代替,多个常规卷积算子的规格均包含在推理软件支持的常规卷积算子规格的集合内;根据多个常规卷积算子的计算结果,生成其每一个值与非常规卷积的计算结果中的每一个值对应相等的中间结果;将中间结果中的值按照非常规卷积需要的形式进行排列后作为非常规卷积的输出结果。本发明专利技术的方案使推理软件可利用已有的常规卷积成果支持非常规卷积。持非常规卷积。持非常规卷积。

【技术实现步骤摘要】
深度学习中非常规卷积的实现方法、电子设备和存储介质


[0001]本专利技术涉及人工智能
,特别是一种深度学习中非常规卷积的实现方法、电子设备和机器可读存储介质。

技术介绍

[0002]深度学习是近年来人工智能的主流方法。深度学习在嵌入式工程上的一般应用方法分为三个步骤:(1)选择一个模型,在训练软件上进行训练,得到模型A;(2)将训练后的模型A按照推理软件能支持的规格进行转换,得到模型B;(3)在推理软件上对模型B进行推理,得到最后的输出。
[0003]在基于深度学习的嵌入式应用中,训练芯片A一般使用GPU(Graphics Processing Unit,图形处理器)芯片,推理芯片B则一般使用能力更低的芯片,而深度学习的基本特点是模型/硬件/软件的协同开发,不同的芯片因为硬件设计不一致,基于该硬件设计的软件能力也不一致,导致一个在训练软件上训练得到的模型A,无法转换成能被推理软件支持的模型B。此问题亟待解决。

技术实现思路

[0004]鉴于上述问题,提出了一种克服上述问题或者至少部分地解决上述问题的深度学习中非常本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种深度学习中非常规卷积的实现方法,所述非常规卷积是所述深度学习的推理软件当前不支持的卷积,所述方法包括:将待实现的所述非常规卷积的计算用多个常规卷积算子的计算代替,所述多个常规卷积算子的规格均包含在所述推理软件支持的常规卷积算子规格的集合内;根据所述多个常规卷积算子的计算结果,生成其每一个值与所述非常规卷积的计算结果中的每一个值对应相等的中间结果;将所述中间结果中的值按照所述非常规卷积需要的形式进行排列后作为所述非常规卷积的输出结果。2.根据权利要求1所述的非常规卷积的实现方法,其中,所述根据所述多个常规卷积算子的计算结果,生成其每一个值与所述非常规卷积的计算结果中的每一个值对应相等的中间结果的步骤包括:判断所述非常规卷积的计算结果中的每一个值是否都能在所述多个常规卷积算子的计算结果中找到;若是,将所述多个常规卷积算子的计算结果作为所述中间结果;若否,根据所述非常规卷积的计算规则和所述多个常规卷积算子的计算规则,确定所述多个常规卷积算子的计算结果的累加规则,并按照所述累加规则对所述多个常规卷积算子的计算结果中的值进行累加后得到所述中间结果。3.根据权利要求1所述的非常规卷积的实现方法,其中,所述非常规卷积包括转置卷积或空洞卷积。4.根据权利要求1所述的非常规卷积的实现方法,其中,当所述非常规卷积为转置卷积时,所述将待实现的所述非常规卷积的计算用多个常规卷积算子的计算代替的步骤包括:根据所述转置卷积的输入特征矩阵中特征值的分布和权重矩阵中权重值的分布以及所述转置卷积的计算规则,确定所述多个常规卷积算子,并以所述多个常规卷积算子的计算代替所述转置卷积的计算,其中,所述多个常规卷积算子的卷积步长和边缘填充值与所述转置卷积相同,所述多个常规卷积算子的权重矩阵中的权重值互不重叠,且所述多个常规卷积算子的权重矩阵中的所有权重值的集合与所述转置卷积的权重矩阵中的权重值的集合相等。5.根据权利要求4所述的非常规卷积的实现方法,其中,所述根据所述转置卷积的输入特征矩阵中特征值的分布和权重矩阵中权重值的分布以及所述转置卷积的计算规则,确定所述多个常规卷积算子的步骤包括:根据所述转置卷积的输入特征矩阵中特征值的分布和权重矩阵中权重值的分布以及所述转置卷积的计算规则,将所述转置卷积的权重矩阵拆分为权重值互不重叠的多个子权重矩阵,并确定与各所述子权重矩阵对应的子输入特征矩阵,其中各所述子权重矩阵的大小符合所述推理软件支持的常规卷积算子规格,各所述子输入特征矩阵包含在所述转置卷积的计算中需与对应的所述子权重矩阵中的各权重值进行乘法运算的除0值外...

【专利技术属性】
技术研发人员:胡锋杰
申请(专利权)人:亿咖通湖北技术有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1