一种感知网络及数据处理方法技术

本申请公开了一种感知网络，可以应用于人工智能领域，包括：特征提取网络，其中特征提取网络中的第一

【技术实现步骤摘要】
一种感知网络及数据处理方法
[0001]本申请为
2021
年2月
27
日提交中国专利局
、
申请号为
202110221934.8、
专利技术名称为“一种感知网络及数据处理方法”的中国专利申请的分案申请，该中国专利申请的全部内容通过引用结合在本申请中
。


[0002]本申请涉及人工智能领域，尤其涉及一种感知网络及数据处理方法
。

技术介绍

[0003]人工智能
(artificial intelligence
，
AI)
是利用数字计算机或者数字计算机控制的机器模拟
、
延伸和扩展人的智能，感知环境
、
获取知识并使用知识获得最佳结果的理论
、
方法
、
技术及应用系统
。
换句话说，人工智能是计算机科学的一个分支，它企图了解智能的实质，并生产出一种新的能以人类智能相似的方式作出反应的智能机器
。
人工智能也就是研究各种智能机器的设计原理与实现方法，使机器具有感知
、
推理与决策的功能
。
[0004]计算机视觉是各个应用领域，如制造业
、
检验
、
文档分析
、
医疗诊断，和军事等领域中各种智能
/
自主系统中不可分割的一部分，它是一门关于如何运用照相机
/
摄像机和计算机来获取我们所需的，被拍摄对象的数据与信息的学问
。
形象地说，就是给计算机安装上眼睛
(
照相机
/
摄像机
)
和大脑
(
算法
)
用来代替人眼对目标进行识别
、
跟踪和测量等，从而使计算机能够感知环境
。
因为感知可以看作是从感官信号中提取信息，所以计算机视觉也可以看作是研究如何使人工系统从图像或多维数据中“感知”的科学
。
总的来说，计算机视觉就是用各种成象系统代替视觉器官获取输入信息，再由计算机来代替大脑对这些输入信息完成处理和解释
。
计算机视觉的最终研究目标就是使计算机能像人那样通过视觉观察和理解世界，具有自主适应环境的能力
。
[0005]基于卷积神经网络的推理模型在以计算机视觉为基础的各个终端任务如图像识别
、
目标检测
、
实力分割等场景中都有广泛的应用
。
传统的基础神经网络往往由于规模较大的参数与计算量，导致各项终端任务无法实时工作
。
现有的轻量级推理网络
(
例如
mobilenet,efficientnet,shufflenet)
都是针对中央处理器
(central processing unit
，
CPU)、ARM(advanced RISC machine)
等移动设备设计而成，在图形处理器
(graphics processing unit
，
GPU)
设备
、
张量处理单元
(tensor processing unit
，
TPU)
设备以及神经网络处理器
(neural network processing Unit
，
NPU)
设备等基于大吞吐量设计的处理单元上的表现却不尽人意，推理速度甚至比传统的卷积神经网络更慢
。

技术实现思路

[0006]第一方面，本申请提供了一种感知网络，所述感知网络包括：特征提取网络，所述特征提取网络包括第一块
block、
串行连接的至少一个第二
block、
目标操作以及拼接操作，所述第一
block
以及所述
M
个第二
block
为所述特征提取网络中同一个阶段
stage
内的
block
，且所述目标操作的参数量小于所述
M
个第二
block
的参数量；
[0007]其中，目标操作也可以称之为廉价操作
(cheap operation)
，可以指一系列参数量较少多少的参数量会认为是参数量较少的操作的统称，用于区别传统的卷积操作；参数量
(parameters)
可以用于描述神经网络包含的参数量，用于评价模型的大小
。
[0008]拼接操作
(concat)
是指在不改变特征图的数据的前提下，进行特征图的合并，例如特征图1和特征图2进行拼接操作的结果为
(
特征图1，特征图
2)
，其中特征图1和特征图2之间的顺序不限定
。
更具体的，具有三个语义通道的特征图与五个语义通道的特征图进行拼接操作的结果为具有八个语义通道的特征图
。
[0009]所述第一
block
用于对输入数据进行卷积处理，以得到
M
个目标特征图，每个目标特征图对应于一个通道；
[0010]所述至少一个第二
block
用于对所述
M
个目标特征图中的
M1
个目标特征图进行卷积处理，以得到
M1
个第一特征图，所述
M1
小于所述
M
；
[0011]所述目标操作用于对所述
M
个目标特征图中的
M2
个目标特征图进行处理，以得到
M2
个第二特征图，所述
M2
小于所述
M
；
[0012]所述拼接操作用于将所述
M1
个第一特征图和所述
M2
个第二特征图进行拼接，以得到拼接后的特征图
。
[0013]在特征提取网络的相同阶段
stage
之间，不同
block
的输出特征之间具有较高的相似性，而不同阶段
stage
的
block
的输出特征之间，相似性较低
。
因此本申请实施例利用相同
stage
之间跨层的目标操作来让感知网络生成这些与关键特征相似性高的特征，降低了模型的参数量，以此提高在
GPU
设备
、TPU
设备以及
NPU
设备上的模型的运行速度
。
[0014]本申请实施例提供了一种感知网络，所述感知网络包括：特征提取网络，所述特征提取网络包括第一块
block、
串行连接的至少一个第二
block、
目标本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.
一种感知网络，其特征在于，所述感知网络包括：特征提取网络，所述特征提取网络包括：第一
block
，所述第一
block
用于对输入数据进行卷积处理，以得到
M
个目标特征图；至少一个第二
block
，所述至少一个第二
block
用于对所述
M
个目标特征图中的
M1
个目标特征图进行卷积处理，以得到
M1
个第一特征图，所述
M1
小于所述
M
；用于执行目标操作的单元，所述目标操作用于对所述
M
个目标特征图中的
M2
个目标特征图进行处理以得到
M2
个第二特征图，所述
M2
小于所述
M
；用于执行拼接操作的单元，所述拼接操作用于将所述
M1
个第一特征图和所述
M2
个第二特征图进行拼接以得到拼接后的特征图
。2.
根据权利要求1所述的感知网络，其特征在于，所述第一
block
以及所述至少一个第二
block
为所述特征提取网络中同一个阶段
stage
内的
block。3.
根据权利要求1或2所述的感知网络，其特征在于，所述目标操作的参数量小于所述至少一个第二
block
的参数量
。4.
根据权利要求1‑3任一项所述的感知网络，其特征在于，所述
M1
个目标特征图与所述
M2
个目标特征图的交集为空，且所述
M1
与所述
M2
的加和为所述
M。5.
根据权利要求1‑4任一项所述的感知网络，其特征在于，所述目标操作为参数量小于所述至少一个第二
block
的卷积操作；或，所述目标操作为由所述第一
block
的输出到所述拼接操作的输出之间的残差连接操作
。6.
根据权利要求1所述的感知网络，其特征在于，所述特征提取网络还包括用于执行融合操作的单元，所述融合操作用于对所述每个第二
block
输出的特征图进行融合，以得到融合后的特征图，以及对所述融合后的特征图和所述
M2
个第二特征图进行加法操作，以得到处理后的
M2
个第二特征图；所述拼接后的特征图基于所述
M1
个第一特征图和所述处理后的
M2
个第二特征图拼接得到
。7.
根据权利要求6所述的感知网络，其特征在于，所述融合后的特征图的尺寸大小与所述
M2
个第二特征图的尺寸大小相同
。8.
根据权利要求1‑7任一项所述的感知网络，其特征在于，所述
M1
个第一特征图为所述至少一个第二
block
中距离所述第一
block
最远的第二
block
的输出
。9.
根据权利要求6所述的感知网络，其特征在于，所述融合操作用于对所述每个第二
block
的输出进行拼接以及降维操作，以得到和所述
M2
个第二特征图的尺寸大小相同的所述融合后的特征图
。10.
根据权利要求1‑9任一项所述的感知网络，其特征在于，所述第一
block
以及所述至少一个第二
block
为所述特征提取网络中目标阶段
stage
内的
block
，所述拼接后的特征图用于作为所述特征提取网络中所述目标阶段
stage
的输出特征图；或，所述目标阶段
stage
还包括至少一个第三
block
，所述至少一个第三
block
用于对所述拼接后的特征图进行卷积操作，以得到所述目标阶段
stage
的输出特征图
。11.
根据权利要求1‑
10
任一项所述的感知网络，其特征在于，所述特征提取网络用于获取输入的图像，并对所述输入的图像进行特征提取，输出所述输入的图像的特征图；
所述感知网络还包括：任务网络，用于根据所述输入的图像的特征图，进行对应任务的处理，以得到处理结果
。12.
根据权利要求
11
所述的感知网络，其特征在于，所述任务包括目标检测
、
图像分割或图像分类
。13.
一种数据处理方法，其特征在于，应用于特征提取网络，所述方法包括：对输入数据进行卷积处理，以得到
M
个目标特征图；对所述
M
个目标特征图中的
M1
个目标特征图进行卷积处理，以得到
M1
个第一特征图，所述
M1
小于所述
M
；对所述
M
个目标特征图中的
M2
个目标特征图进行处理，以得到
M2
个第二特征图，所述
M2
小于所述
M
；将所述
M1
个第一特征图和所述
M2
个第二特征图进行拼接，以得到拼接后的特征图
。14.
根据权利要求
13<...

【专利技术属性】
技术研发人员：郭健元，韩凯，王云鹤，许春景，
申请(专利权)人：华为技术有限公司，
类型：发明
国别省市：