一种基于结构重参数化的特征提取方法及相关装置制造方法及图纸

技术编号:40564429 阅读:36 留言:0更新日期:2024-03-05 19:28
本申请公开了一种基于结构重参数化的特征提取方法,涉及图像处理技术领域,该方法在模型训练时使用Nx1和1xN非对称卷积核进行特征提取,这样提升了模型应对垂直和水平翻转变换的能力。使用中心差分的方式进行卷积,提高了模型的鲁棒性。在推理阶段,将Nx1、1xN和NxN卷积核的权重值进行融合,并使用中心差分的方式进行卷积,这既保留了结构重参数化所带来的低延迟高效率的特性,同时也提升了模型的鲁棒性,进而提高了特征提取的准确性。本申请还公开了一种基于结构重参数化的特征提取装置、设备以及计算机可读存储介质,均具有上述技术效果。

【技术实现步骤摘要】

本申请涉及图像处理,特别涉及一种基于结构重参数化的特征提取方法;还涉及一种基于结构重参数化的特征提取装置、设备以及计算机可读存储介质。


技术介绍

1、结构重参数化指的是先构造一系列结构(一般在训练阶段),并将其参数等价转换为另一组参数(一般在推理阶段),从而将这一系列结构等价转换为另一系列结构。研究表明,多分支网络结构的性能普遍优于单分支结构,而相较于多分支结构,单分支结构更利于模型部署。在现实场景中,训练资源一般是相对丰富的,往往模型推理时的开销和性能是考虑的重点。因此技术人员希望模型训练时结构较大,具备好的性质(例如,更高的精度或其他有用的性质,如稀疏性)。模型推理时,模型结构较小且保留这种性质(相同的精度或其他有用的性质)。如此训练时的结构对应一组参数,推理时技术人员需要的结构对应另一组参数;只要能把前者的参数等价转换为后者,就可以将前者的结构等价转换为后者。

2、结构重参数化的核心思想是卷积,其具有可加性。现有的大部分结构重参数化方法虽然可以将多分支结构和单分支结构的优势融合起来,但也存在以下的问题:重参数化后模型的鲁棒性较差,由于卷积本文档来自技高网...

【技术保护点】

1.一种基于结构重参数化的特征提取方法,其特征在于,包括:

2.根据权利要求1所述的特征提取方法,其特征在于,所述N×N卷积核为3×3卷积核,所述N×1卷积核为3×1卷积核,所述1×N卷积核为1×3卷积核。

3.根据权利要求1所述的特征提取方法,其特征在于,所述分别将N×N卷积核、N×1卷积核以及1×N卷积核与对应的中心差分处理得到的像素值进行点积聚合得到聚合值包括:

4.根据权利要求1所述的特征提取方法,其特征在于,所述N×N卷积核、所述N×1卷积核以及所述1×N卷积核的运算并行执行。

5.根据权利要求1所述的特征提取方法,其特征在于,还...

【技术特征摘要】

1.一种基于结构重参数化的特征提取方法,其特征在于,包括:

2.根据权利要求1所述的特征提取方法,其特征在于,所述n×n卷积核为3×3卷积核,所述n×1卷积核为3×1卷积核,所述1×n卷积核为1×3卷积核。

3.根据权利要求1所述的特征提取方法,其特征在于,所述分别将n×n卷积核、n×1卷积核以及1×n卷积核与对应的中心差分处理得到的像素值进行点积聚合得到聚合值包括:

4.根据权利要求1所述的特征提取方法,其特征在于,所述n×n卷积核、所述n×1卷积核以及所述1×n卷积核的运算并行执行。

5.根据权利要求1所述的特征提取方法,其特征在于,还包括:

6.一种基于结构重参数化的特征提取...

【专利技术属性】
技术研发人员:邹磊卢天华倪军
申请(专利权)人:杭州安脉盛智能技术有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1