一种避免众核架构芯片前向计算数据交叠的网络训练方法技术

本公开涉及一种避免众核架构芯片前向计算数据交叠的网络训练方法。针对任一目标功能核，该方法包括：针对目标功能核的任一次卷积运算，根据卷积处理的卷积核尺寸及卷积步长，确定与该次卷积运算对应的运算数据中各个数据的第二数据标识；当存在超出第一数据标识的第二数据标识时，从存储空间中读取与未超出第一数据标识的第二数据标识对应的运算数据，并将与超出第一数据标识的第二数据标识对应的运算数据设置为零；根据与该次卷积运算对应的运算数据以及权值数据，执行卷积运算，得到该次卷积运算的运算结果。该方法可节约功能核的缓存资源，并减少功能核间的数据通信，从而提高多核多芯片系统的计算效率。高多核多芯片系统的计算效率。高多核多芯片系统的计算效率。

【技术实现步骤摘要】
一种避免众核架构芯片前向计算数据交叠的网络训练方法


[0001]本公开涉及信息处理
，尤其涉及一种避免众核架构芯片前向计算数据交叠的网络训练方法、处理器、芯片及电子设备。

技术介绍

[0002]随着人工智能(Artificial Intelligence，AI)的发展重心逐渐从云端向终端转移，相伴而生的是全新一代的计算芯片产业的崛起。非传统的AI计算专用芯片的理论框架、架构体系、映射方法等，已成为人工智能领域研究的新方向，并被认为是第四次工业革命的引擎。
[0003]在多核多芯片系统中(例如包括众核架构芯片系统)，由于功能核存储和计算能力的限制，一个功能核或一个芯片的计算资源不可以满足大规模神经网络的需求，如果将大规模的神经网络切分映射在单个功能核或单个芯片上，计算的时间将非常大。因此，神经网络模型可拆分到不同功能核中以进行众核并行的计算。以卷积神经网络为例，在卷积运算过程需要利用拆分到不同功能核的神经元的情况，就可能会产生数据交叠的问题，例如前向计算数据的交叠问题。

技术实现思路

[0004]有鉴于此，本公开提出本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种数据处理方法，其特征在于，所述方法应用于处理器，所述处理器包括多个功能核，所述多个功能核中包括用于执行卷积处理的目标功能核，所述目标功能核的存储空间中缓存有所述卷积处理的处理子数据及权值数据，所述处理子数据是对所述卷积处理的处理数据拆分得到的，所述处理子数据中的各个数据具有第一数据标识，针对任一目标功能核，所述方法包括：针对所述目标功能核的任一次卷积运算，根据所述卷积处理的卷积核尺寸及卷积步长，确定与该次卷积运算对应的运算数据中各个数据的第二数据标识；当存在超出所述第一数据标识的第二数据标识时，从所述存储空间中读取与未超出所述第一数据标识的第二数据标识对应的运算数据，并将与超出所述第一数据标识的第二数据标识对应的运算数据设置为零；根据与该次卷积运算对应的运算数据以及所述权值数据，执行卷积运算，得到该次卷积运算的运算结果。2.根据权利要求1所述的方法，其特征在于，针对任一目标功能核，所述方法还包括：当不存在超出所述第一数据标识的第二数据标识时，从所述存储空间中读取与所述第二数据标识对应的运算数据；根据与该次卷积运算对应的运算数据以及所述权值数据，执行卷积运算，得到该次卷积运算的运算结果；根据所述目标功能核的多次卷积运算的运算结果，确定所述目标功能核的处理子结果。3.根据权利要求1所述的方法，其特征在于，所述方法还包括：根据所述多个功能核的存储空间的容量以及所述权值数据的尺度，确定所述处理数据的处理子数据的拆分尺度，并从所述多个功能核中确定出目标功能核；根据所述拆分尺度，对所述处理数据进行拆分，得到多个处理子数据；分别向各个目标功能核发送所述处理子数据及所述权值数据，以使目标功能核缓存所述处理子数据及所述权值数据。4.根据权利要求2所述的方法，其特征在于，所述方法还包括：在接收到来自各个目标功能核的处理子结果时，对各个处理子结果进行融合，得到所述卷积处理的处理结果。5.根据权利要求3所述的方法，其特征在于，根据所述...

【专利技术属性】
技术研发人员：李国齐，杨玉宽，杜宇，
申请(专利权)人：清华大学，
类型：发明
国别省市：