【技术实现步骤摘要】
信息处理方法及装置、电子设备和存储介质
本公开涉及信息处理领域,尤其涉及一种信息处理方法及装置、电子设备和存储介质。
技术介绍
卷积神经网络凭借其强大的性能优势,推动了计算机视觉、自然语言处理等领域的重大进步,成为工业和学术界的研究热潮。然而由于深度卷积神经网络受到大量矩阵运算的限制,往往需要海量存储及计算资源,削减神经网络中卷积单元(Convolution)的冗余是解决这个问题的重要方式之一。其中,分组卷积(GroupConvolution)是一种通道分组卷积的方式,在减少网络参数的同时又能保证精度损失小,网络不容易过拟合,其凭借易实现的优势在各个网络中被广泛应用。其中,传统的分组方式只是将相邻通道的卷积特征划分到同一分组,这种易于实现的方式大大忽略了不同通道特征信息的关联性。
技术实现思路
本公开提出了一种通过神经网络执行输入信息的信息处理的技术方案。根据本公开的一方面,提供了一种信息处理方法,其应用在神经网络中,包括:将接收的输入信息输入至神经网络中;通过所述神经网络处理所述输入信息,其中在通过所述神经网络的卷积层执行卷积处理的情况下,利用为卷积层配置的变换矩阵 ...
【技术保护点】
1.一种信息处理方法,其应用在神经网络中,其特征在于,包括:将接收的输入信息输入至神经网络中;通过所述神经网络处理所述输入信息,其中在通过所述神经网络的卷积层执行卷积处理的情况下,利用为卷积层配置的变换矩阵更新卷积层的卷积核,以通过更新后的卷积核完成所述卷积层的卷积处理;输出通过所述神经网络处理后的处理结果。
【技术特征摘要】
1.一种信息处理方法,其应用在神经网络中,其特征在于,包括:将接收的输入信息输入至神经网络中;通过所述神经网络处理所述输入信息,其中在通过所述神经网络的卷积层执行卷积处理的情况下,利用为卷积层配置的变换矩阵更新卷积层的卷积核,以通过更新后的卷积核完成所述卷积层的卷积处理;输出通过所述神经网络处理后的处理结果。2.根据权利要求1所述的方法,其特征在于,所述利用为卷积层配置的变换矩阵更新卷积层的卷积核,包括:获取所述卷积层的卷积核的空间维度;基于所述卷积核的空间维度,对卷积层对应的所述变换矩阵执行复制处理,其中,复制处理的次数由所述卷积核的空间维度确定;对复制处理后的变换矩阵和所述卷积核执行点乘处理,得到相应卷积层的更新的卷积核。3.根据权利要求1或2所述的方法,其特征在于,在通过所述神经网络的卷积层执行卷积处理之前,所述方法还包括:确定构成卷积层对应的所述变换矩阵的矩阵单元,所述矩阵单元包括第一矩阵和第二矩阵,或者仅包括第二矩阵,其中,响应于所述卷积层的输入特征的通道数和输出特征的通道数不同,所述卷积层对应的变换矩阵包括第一矩阵和第二矩阵,响应于所述卷积层的输入特征的通道数和输出特征的通道数相同,所述卷积层对应的变换矩阵包括第二矩阵,所述第一矩阵由单位矩阵连接形成,所述第二矩阵由多个子矩阵的函数变换的内积得到;基于确定的矩阵单元形成所述卷积层的变换矩阵。4.根据权利要求3所述的方法,其特征在于,确定构成卷积层的变换矩阵的第二矩阵包括:获取为每个卷积层配置的门控参数;基于所述门控参数确定构成所述第二矩阵的子矩阵;基于确定的所述子矩阵形成所述第二矩阵。5.根据权利要求4所述的方法...
【专利技术属性】
技术研发人员:张兆阳,吴凌云,罗平,
申请(专利权)人:深圳市商汤科技有限公司,
类型:发明
国别省市:广东,44
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。