一种数据处理方法及其装置制造方法及图纸

一种数据处理方法，应用于神经网络的二值化，方法包括：分别通过MLP包括块block中的多个第一处理分支中的每个第一处理分支，处理输入数据，得到多个第一处理结果；其中，每个第一处理分支包括一个或多个全连接层；多个第一处理分支中包括对输入数据在空间维度上进行交互以及对输入数据在通道维度上进行交互的处理分支；输入数据以及多个第一处理分支中的参数为二值化数据。本申请中二值化MLP中block设置多个并行的处理分支，该多个并行的处理分支可以同时对输入数据在空间维度和通道维度上进行信息交互，增加了网络的信息交互复杂度，从而提升了二值化MLP的网络性能。

【技术实现步骤摘要】

本申请涉及人工智能领域，尤其涉及一种数据处理方法及其装置。

技术介绍

1、深度学习(deep learning，dl)是机器学习(machine learning，ml)领域中一个新的研究方向，它被引入机器学习使其更接近于最初的目标——人工智能(artificialintelligence，ai)。

2、随着深度学习技术的发展，深度神经网络(deep neural networks，dnn)已经被广泛应用到各个领域中。例如，作为深度神经网络的一种，卷积神经网络(convolutionalneural network，cnn)已经被成功地应用于图片分类、物体检测等领域。然而，卷积神经网络的应用需要巨大的计算资源，所以难以直接将卷积神经网络直接应用于手机、摄像头、机器人等计算能力有限的设备上。

3、为了解决这一问题，许多神经网络的压缩算法和加速算法被提出，将此类算法应用到深度神经网络中可以带来非常高的压缩比和加速比，并且对原网络的精度影响非常小。其中一种方法就是对占用空间较大的权重进行二值化处理，得到二值神经网络(binaryneura本文档来自技高网...

【技术保护点】

1.一种数据处理方法，其特征在于，应用于机器学习模型中的多层感知机MLP；所述MLP包括块block，所述block包括并联的多个第一处理分支；所述方法包括：

2.根据权利要求1所述的方法，其特征在于，所述输入数据的空间维度具体包括宽度维度和高度维度；

3.根据权利要求1或2所述的方法，其特征在于，所述block还包括多个并行的第二处理分支；所述方法还包括：

4.根据权利要求1至3任一所述的方法，其特征在于，所述block中处理分支的第一数量、第二数量和第三数量相同；

5.根据权利要求1至4任一所述的方法，其特征在于，所述多个第一处理分支包...

【技术特征摘要】

1.一种数据处理方法，其特征在于，应用于机器学习模型中的多层感知机mlp；所述mlp包括块block，所述block包括并联的多个第一处理分支；所述方法包括：

2.根据权利要求1所述的方法，其特征在于，所述输入数据的空间维度具体包括宽度维度和高度维度；

3.根据权利要求1或2所述的方法，其特征在于，所述block还包括多个并行的第二处理分支；所述方法还包括：

4.根据权利要求1至3任一所述的方法，其特征在于，所述block中处理分支的第一数量、第二数量和第三数量相同；

5.根据权利要求1至4任一所述的方法，其特征在于，所述多个第一处理分支包括目标处理分支；所述目标处理分支包括第一网络层、第二网络层和第三网络层在内的多个串联的网络层，所述第二网络层和所述第三网络层相邻连接，所述第一网络层的输入数据为第一输入数据，所述第三网络层的输入数据为第二输入数据和第三输入数据的融合结果；所述第三输入数据为所述第二网络层输出的数据；其中，

6.根据权利要求5所述的方法，其特征在于，所述尺寸为通道数量；

7.根据权利要求1至6任一所述的方法，其特征在于，所述mlp还包括下采样网络；所述下采样网络包括卷积模块以及多个下采样模块；

8.根据权利要求7所述的方法，其特征在于，所述卷积操作为步长为1的卷积；所述池化操作为步长为n的池化，所述n大于1。

9.根据权利要求1至8任一所述的方法，其特征在于，所述方法还包括：

10.一种数据处理方法，其特征在于，所述方法包括：

11.根据权利要求10所述的方法，其特征在于，所述性能要求至少包括如下的至少一种：

12.一种数据处理装置，其特征在于，应用于机器学习模型中的多层感知机mlp；所述mlp包括块block，所述block包括并联的多个第一处理分支；所述装置包括：

13.根据权利要求12所述的装置，其特征在于，所述输入数据的空间维度具体包括宽度维度和高度...

【专利技术属性】
技术研发人员：许奕星，陈醒濠，王云鹤，
申请(专利权)人：华为技术有限公司，
类型：发明
国别省市：