用于密集预测任务的多分辨率神经网络架构搜索空间制造技术

技术编号:40193546 阅读:22 留言:0更新日期:2024-01-26 23:55
公开了用于搜索搜索空间的系统和方法。一些示例可以包括使用包括第一多个堆叠搜索块和第二多个堆叠搜索块的第一并行模块来输出第一分辨率的第一特征图并输出第二分辨率的第二特征图。在一些示例中,融合模块可以包括多个搜索块,其中融合模块被配置为通过将从第一并行模块接收的第一分辨率的一个或多个特征图与以下的一个或多个特征图进行融合来生成多尺度特征图:从第一并行模块接收第二分辨率,并且其中融合模块被配置为输出多尺度特征图并输出第三分辨率的第三特征图。

【技术实现步骤摘要】
【国外来华专利技术】


技术介绍

1、神经架构搜索(nas)是一种用于自动设计在机器学习领域中频繁使用的人工神经网络(ann)的技术。nas已被用来设计能超过手工设计的架构的网络。用于nas的方法可以根据所使用的搜索空间、搜索策略和性能估计策略进行分类,其中搜索空间限定可以被设计和优化的(多个)ann类型,搜索策略限定用于探索目标空间的过程,并且性能估计策略基于ann的设计来评估其性能。

2、在图像和计算机视觉任务中,高分辨率表示(hr)对于诸如分割、检测和姿态估计之类的密集预测任务至关重要。在专注于图像分类的以前的nas方法中,学习hr表示通常被忽略。虽然nas方法在自动设计有效的图像分类模型以及提高诸如语义分割和姿态估计之类的密集预测任务的模型效率方面取得了成功,但现有用于密集预测的nas方法要么直接被扩展为图像分类而设计的搜索空间,要么仅扩展对特征聚合头的搜索。与最好的手工模型相比,缺乏对密集预测特殊性的考虑阻碍了nas方法的性能进步。

3、原则上,密集预测任务需要全局上下文的完整性和高分辨率表示。前者对于使每个像素处的模糊局部特征清晰来说至关重要本文档来自技高网...

【技术保护点】

1.一种搜索空间,包括:

2.根据权利要求1所述的搜索空间,其中所述融合模块的所述多个搜索块中的至少一个搜索块被配置为对特征图进行下采样,并且其中所述融合模块的所述第一多个搜索块中的至少一个搜索块被配置为对特征图进行上采样。

3.根据权利要求1所述的搜索空间,其中所述第一多个堆叠搜索块中的一个或多个搜索块包括变换器,所述变换器被配置为基于从所述第一多个堆叠搜索块中的另一搜索块被接收的特征图来提供注意力图。

4.根据权利要求3所述的搜索空间,其中所述第一多个堆叠搜索块中的一个或多个搜索块包括以按深度的方式被布置的多个卷积层,所述多个卷积层中的每个卷积层具...

【技术特征摘要】
【国外来华专利技术】

1.一种搜索空间,包括:

2.根据权利要求1所述的搜索空间,其中所述融合模块的所述多个搜索块中的至少一个搜索块被配置为对特征图进行下采样,并且其中所述融合模块的所述第一多个搜索块中的至少一个搜索块被配置为对特征图进行上采样。

3.根据权利要求1所述的搜索空间,其中所述第一多个堆叠搜索块中的一个或多个搜索块包括变换器,所述变换器被配置为基于从所述第一多个堆叠搜索块中的另一搜索块被接收的特征图来提供注意力图。

4.根据权利要求3所述的搜索空间,其中所述第一多个堆叠搜索块中的一个或多个搜索块包括以按深度的方式被布置的多个卷积层,所述多个卷积层中的每个卷积层具有不同的内核大小。

5.根据权利要求1所述的搜索空间,其中所述第一分辨率大于所述第二分辨率。

6.根据权利要求1所述的搜索空间,还包括第二融合模块,所述第二融合模块包括第二多个搜索块,其中所述第二融合模块被配置为通过将从所述第二并行模块被接收的下采样特征图与从所述第二并行模块被接收的上采样特征图进行组合来生成所述第二分辨率的多尺度特征图。

7.根据权利要求1所述的搜索空间,其中所述融合模块被配置为将来自三个不同分辨率的搜索块的特征图进行融合。

8.根据权利要求1所述的搜索空间,还包括另一融合模块,所述另一融合模块被配置为接收卷积流,并且将所述第一分辨率的特征图输出到所述第一并行模块并且将所述第二分辨率的特征图输出到所述第一并行模块。

9.一种搜索空间,所述搜索空间包括:

10.根据权利要求9所述的搜索空间,其中所述融...

【专利技术属性】
技术研发人员:连晓晨杨林杰王鹏靳潇杰丁明宇
申请(专利权)人:脸萌有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1