System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 一种模型训练方法、模型训练装置、电子设备及存储介质制造方法及图纸_技高网

一种模型训练方法、模型训练装置、电子设备及存储介质制造方法及图纸

技术编号:41013113 阅读:5 留言:0更新日期:2024-04-18 21:49
本申请公开了一种模型训练方法、模型训练装置、电子设备及计算机可读存储介质。该方法包括:将训练样本输入待训练的深度估计模型,得到第一视差构建模块所输出的第一视差及第二视差构建模块所输出的第二视差,其中,第二视差构建模块的视差构建效率高于第一视差构建模块的视差构建效率;基于第一视差,对待训练的深度估计模型除第二视差构建模块之外的其它部分进行优化;基于第一视差及第二视差,对第二视差构建模型进行优化,并返回执行将训练样本输入待训练的深度估计模型的步骤及后续步骤,直至满足预设的训练结束条件。通过本申请方案,可训练得到能够在低算力设备上运行且性能较佳的深度估计模型,且不会在训练过程中耗费过多计算量。

【技术实现步骤摘要】

本申请属于图像处理,尤其涉及一种模型训练方法、模型训练装置、电子设备及计算机可读存储介质。


技术介绍

1、传统的端到端的深度估计模型中的视差提取模块是通过循环运算实现的,而循环运算具有数据依赖性,即后续迭代需要前面迭代的结果。这会导致深度估计模型因计算量较大而不适合在低算力设备上运行,从而限制了双目深度估计模型的性能及应用场景。

2、当前,为了获得能够在低算力设备上运行的深度估计模型,一般采用知识蒸馏方法对整个模型进行压缩。然而,蒸馏整个模型的过程中,仍需要较多的时间及计算资源,且可能对模型的完整性造成影响,导致蒸馏所得模型的性能下降。


技术实现思路

1、本申请提供了一种模型训练方法、模型训练装置、电子设备及计算机可读存储介质,可训练得到能够在低算力设备上运行且性能较佳的深度估计模型,且不会在训练过程中耗费过多计算量。

2、第一方面,本申请提供了一种模型训练方法,模型训练方法的训练对象为待训练的深度估计模型,待训练的深度估计模型包括第一视差构建模块及第二视差构建模块,第二视差构建模块的视差构建效率高于第一视差构建模块的视差构建效率,模型训练方法包括:

3、将训练样本输入待训练的深度估计模型,得到第一视差构建模块所输出的第一视差及第二视差构建模块所输出的第二视差;

4、基于第一视差,对待训练的深度估计模型除第二视差构建模块之外的其它部分进行优化;

5、基于第一视差及第二视差,对第二视差构建模型进行优化,并返回执行将训练样本输入待训练的深度估计模型的步骤及后续步骤,直至满足预设的训练结束条件。

6、第二方面,本申请提供了一种模型训练装置,模型训练装置的训练对象为待训练的深度估计模型,待训练的深度估计模型包括第一视差构建模块及第二视差构建模块,第二视差构建模块的视差构建效率高于第一视差构建模块的视差构建效率,模型训练装置包括:

7、构建单元,用于将训练样本输入待训练的深度估计模型,得到第一视差构建模块所输出的第一视差及第二视差构建模块所输出的第二视差;

8、第一优化单元,用于基于第一视差,对待训练的深度估计模型除第二视差构建模块之外的其它部分进行优化;

9、第二优化单元,用于基于第一视差及第二视差,对第二视差构建模型进行优化,并再次触发构建单元的运行,直至满足预设的训练结束条件。

10、第三方面,本申请提供了一种电子设备,上述电子设备包括存储器、处理器以及存储在上述存储器中并可在上述处理器上运行的计算机程序,上述处理器执行上述计算机程序时实现如上述第一方面的方法的步骤。

11、第四方面,本申请提供了一种计算机可读存储介质,上述计算机可读存储介质存储有计算机程序,上述计算机程序被处理器执行时实现如上述第一方面的方法的步骤。

12、第五方面,本申请提供了一种计算机程序产品,上述计算机程序产品包括计算机程序,上述计算机程序被一个或多个处理器执行时实现如上述第一方面的方法的步骤。

13、本申请与现有技术相比存在的有益效果是:为获得能够在低算力设备上运行的深度估计模型,本申请方案不再对整个模型进行知识蒸馏,而是仅对模型中的单模块(具体为视差构建模块)进行知识蒸馏。具体地,对于视差构建效率较低的第一视差构建模块而言,电子设备会对其所在的分支正常进行优化;对于视差构建效率较高的第二视差构建模块而言,电子设备会基于第一视差构建模块的输出和该第二视差构建模块自身的输出单独对第二视差构建模型进行针对性优化,由此使得第二视差构建模块可学习到第一视差构建模块的知识,实现第一视差构建模块到第二视差构建模块的知识蒸馏。以上过程中,由于仅对模型中的单模块进行知识蒸馏,因而训练时所需时间和计算资源较少;并且,可最大程度地保留模型的完整性,减少性能下降的风险;除此之外,还可更加清晰地解释模型的工作原理和性能表现,使得模型更易于理解和应用。

14、可以理解的是,上述第二方面至第五方面的有益效果可以参见上述第一方面中的相关描述,在此不再赘述。

本文档来自技高网...

【技术保护点】

1.一种模型训练方法,其特征在于,所述模型训练方法的训练对象为待训练的深度估计模型,所述待训练的深度估计模型包括第一视差构建模块及第二视差构建模块,所述第二视差构建模块的视差构建效率高于所述第一视差构建模块的视差构建效率,所述模型训练方法包括:

2.如权利要求1所述的模型训练方法,其特征在于,所述基于所述第一视差及所述第二视差,对所述第二视差构建模型进行优化,包括:

3.如权利要求2所述的模型训练方法,其特征在于,所述根据所述第一视差及所述第二视差,计算知识蒸馏损失,包括:

4.如权利要求1所述的模型训练方法,其特征在于,所述待训练的深度估计模型还包括特征提取模块及回归网络模块,其中,所述特征提取模块的输出为所述第一视差构建模块及所述第二视差构建模块的输入,所述第一视差构建模块的输出为所述回归网络模块的输入;所述基于所述第一视差,对所述待训练的深度估计模型除所述第二视差构建模块之外的其它部分进行优化,包括:

5.如权利要求4项所述的模型训练方法,其特征在于,所述训练结束条件为:在将所述回归网络模块的输入更新为所述第二视差构建模块的输出的情况下,所述待训练的深度估计模型的第二模型损失已达到收敛。

6.如权利要求5所述的模型训练方法,其特征在于,所述模型训练方法还包括:

7.如权利要求1至6任一项所述的模型训练方法,其特征在于,所述第二视差构建模块基于多层卷积层而构建,所述多层卷积层用于在视差维度进行降维处理。

8.一种模型训练装置,其特征在于,所述模型训练装置的训练对象为待训练的深度估计模型,所述待训练的深度估计模型包括第一视差构建模块及第二视差构建模块,所述第二视差构建模块的视差构建效率高于所述第一视差构建模块的视差构建效率,所述模型训练装置包括:

9.一种电子设备,包括存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序,其特征在于,所述处理器执行所述计算机程序时实现如权利要求1至7任一项所述的方法。

10.一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现如权利要求1至7任一项所述的方法。

...

【技术特征摘要】

1.一种模型训练方法,其特征在于,所述模型训练方法的训练对象为待训练的深度估计模型,所述待训练的深度估计模型包括第一视差构建模块及第二视差构建模块,所述第二视差构建模块的视差构建效率高于所述第一视差构建模块的视差构建效率,所述模型训练方法包括:

2.如权利要求1所述的模型训练方法,其特征在于,所述基于所述第一视差及所述第二视差,对所述第二视差构建模型进行优化,包括:

3.如权利要求2所述的模型训练方法,其特征在于,所述根据所述第一视差及所述第二视差,计算知识蒸馏损失,包括:

4.如权利要求1所述的模型训练方法,其特征在于,所述待训练的深度估计模型还包括特征提取模块及回归网络模块,其中,所述特征提取模块的输出为所述第一视差构建模块及所述第二视差构建模块的输入,所述第一视差构建模块的输出为所述回归网络模块的输入;所述基于所述第一视差,对所述待训练的深度估计模型除所述第二视差构建模块之外的其它部分进行优化,包括:

5.如权利要求4项所述的模型训练方法,其特征在于,所述训练结束条件为:在将所述回归网络...

【专利技术属性】
技术研发人员:潘柏宇
申请(专利权)人:深圳市优必选科技股份有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1