The embodiment of this application provides a data processing method, device, device and storage medium. After obtaining the first input data of the nth layer network in the neural network, the target multi-order function corresponding to the nth layer network is determined based on the correlation between the preset number of network layers and the multi-order function, and the input data is processed based on the target multi-order function. The second input data of the n-layer network is obtained, and the n-layer network is trained based on the second input data. The technical scheme provided in the embodiment of this application can reduce the loss of input data characteristics at each layer of the neural network, improve the convergence speed of the model and improve the accuracy of the model.
【技术实现步骤摘要】
数据处理方法、装置、设备及存储介质
本申请实施例涉及计算机
,尤其涉及一种数据处理方法、装置、设备及存储介质。
技术介绍
现有技术中批量规范化(batch-norm)算法用于解决神经网络中数据传输过程中梯度消失的问题。其在神经网络中主要做两件事情,第一件事情是对神经网络中各层的输入数据作归一化处理,使得各层的输入均满足预设的数据分布,第二件事情是对归一化后的输入数据进行线性处理,以使各层的输入数据保持差异化,以便能够更好的使得模型收敛。但是目前batch-norm所做的线性处理仅包括缩放和平移,其在进行线性处理时会使得输入数据损失较多的特征,不利于模型尽快收敛,同时也会影响模型的准确度,使得模型不够准确。
技术实现思路
本申请实施例提供一种数据处理方法、装置、设备及存储介质,用以减少神经网络各层输入数据特征丢失。本申请实施例第一方面提供一种数据处理方法,包括:在获取到神经网络中第n层网络的第一输入数据后,基于预设的网络层数与多阶函数之间的关联关系,确定所述第n层网络对应的目标多阶函数;基于所述目标多阶函数对所述第一输入数据进行处理,获得所述第n层网络的第二输入数 ...
【技术保护点】
1.一种数据处理方法,其特征在于,包括:在获取到神经网络中第n层网络的第一输入数据后,基于预设的网络层数与多阶函数之间的关联关系,确定所述第n层网络对应的目标多阶函数;基于所述目标多阶函数对所述第一输入数据进行处理,获得所述第n层网络的第二输入数据;基于所述第二输入数据对所述第n层网络进行训练;其中,n为正整数。
【技术特征摘要】
1.一种数据处理方法,其特征在于,包括:在获取到神经网络中第n层网络的第一输入数据后,基于预设的网络层数与多阶函数之间的关联关系,确定所述第n层网络对应的目标多阶函数;基于所述目标多阶函数对所述第一输入数据进行处理,获得所述第n层网络的第二输入数据;基于所述第二输入数据对所述第n层网络进行训练;其中,n为正整数。2.根据权利要求1所述的方法,其特征在于,在所述关联关系中不同网络层对应的多阶函数的表达形式不同。3.根据权利要求2所述的方法,其特征在于,在所述关联关系中不同网络层对应的多阶函数的阶数不同。4.根据权利要求1-3中任一项所述的方法,其特征在于,所述基于所述第二输入数据对所述第n层网络进行训练,包括:对所述第二输入数据进行预设的数据增量处理,获得增量数据;基于所述第二输入数据和所述增量数据训练所述第n层网络。5.根据权利要求4所述的方法,其特征在于,所述预设的数据增量处理至少包括如下处理中的一种:基于GAN网络的数据增量处理、数据间的加权求和处理、数据的线性压缩处理、数据的线性平移处理。6.一种数据处理装置,其特征在于,包括:确定模块,用于在获取到神经网络中第n层网络的第一输入数据后,基于预设的网络层数与多阶函数之间的关联关系,确定所述第n层网络对应的目标多阶函数;处理...
【专利技术属性】
技术研发人员:杨少雄,赵晨,
申请(专利权)人:百度在线网络技术北京有限公司,
类型:发明
国别省市:北京,11
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。