数据的处理方法、存算一体芯片技术

技术编号:27453888 阅读:33 留言:0更新日期:2021-02-25 04:47
本申请提供一种数据的处理方法、存算一体芯片,其中,该方法应用于存算一体芯片,所述存算一体芯片包括计算核,所述计算核包括:存储计算阵列、计算模块;该方法包括:所述存储计算阵列对输入所述存算一体芯片的具有第一网络属性的第一神经网络的数据进行运算;所述计算模块对输入所述存算一体芯片的不具有第一网络属性的第二神经网络的数据进行运算。通过本申请,解决了现有技术中在采用存算一体芯片对数据进行处理的过程中,所有数据均需要存储计算阵列进行运算,导致存储计算阵列运算量大以及功耗高的问题。及功耗高的问题。及功耗高的问题。

【技术实现步骤摘要】
数据的处理方法、存算一体芯片


[0001]本申请涉及神经网络领域,具体涉及一种数据的处理方法、存算一体芯片。

技术介绍

[0002]近年来,为了解决传统冯诺依曼计算体系结构瓶颈,存算一体架构得到人们的广泛关注,如图1所示,其基本思想是直接利用存储器进行逻辑计算,从而减少存储器与处理器之间的数据传输量以及传输距离,降低功耗的同时提高性能。但是,在有大量数据需要进行运算的情况下,仍需消耗较多的时间将大量数据逐行写入存算一体芯片中的存储计算阵列中,从而难以进一步提高存算一体在实际应用中的整体工作效率。

技术实现思路

[0003]本申请实施例提供了一种数据的处理方法、存算一体芯片,以解决现有技术中在采用存算一体芯片对数据进行处理的过程中,所有数据均需要存储计算阵列进行运算,导致存储计算阵列运算量大以及功耗高的问题。
[0004]为了解决上述技术问题,本申请是这样实现的:
[0005]第一方面,本申请提供了一种数据的处理方法,应用于存算一体芯片,所述存算一体芯片包括计算核,所述计算核包括:存储计算阵列、计算模块;所述方法包括:所述存储计算阵列对输入所述存算一体芯片的具有第一网络属性的第一神经网络的数据进行运算;所述计算模块对输入所述存算一体芯片的不具有第一网络属性的第二神经网络的数据进行运算。
[0006]第二方面,本申请提供了一种存算一体芯片,所述存算一体芯片包括计算核,所述计算核包括:存储计算阵列、计算模块;所述存储计算阵列,用于对输入所述存算一体芯片的具有第一网络属性的第一神经网络的数据进行运算;所述计算模块,用于对输入所述存算一体芯片的不具有第一网络属性的第二神经网络的数据进行运算。
[0007]第三方面,本申请实施例还提供了一种电子设备,其特征在于,包括处理器,存储器及存储在所述存储器上并可在所述处理器上运行的程序或指令,所述程序或指令被所述处理器执行时实现如第一方面所述的方法的步骤。
[0008]第四方面,本申请实施例还提供了一种可读存储介质,所述可读存储介质上存储程序或指令,所述程序或指令被处理器执行时实现如第一方面所述的方法的步骤。
[0009]在本申请中,通过本申请实施例中的存算一体芯片,能够针对不同网络属性的神经网络采用不同的模块进行运算,即可以通过存储计算阵列对具有第一网络属性的第一神经网络的数据进行运算,以及可以通过计算模块对不具有第一网络属性的第二神经网络的数据进行运算,从而减轻了存算一体芯片中存储计算阵列的运算量,解决了现有技术中在采用存算一体芯片对数据进行处理的过程中,所有数据均需要存储计算阵列进行运算,导致存储计算阵列运算量大以及功耗高的问题。
附图说明
[0010]图1是现有技术中存算一体芯片的结构示意图;
[0011]图2是本申请实施例的存算一体芯片的结构示意图;
[0012]图3是本申请实施例的数据的处理方法的流程图。
具体实施方式
[0013]下面将结合本专利技术实施例中的附图,对本专利技术实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本专利技术一部分实施例,而不是全部的实施例。基于本专利技术中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本专利技术保护的范围。
[0014]在本申请的描述中,需要理解的是,术语“第一”、“第二”仅由于描述目的,且不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。因此,限定有“第一”、“第二”的特征可以明示或者隐含地包括一个或者多个该特征。本专利技术的描述中,除非另有说明,“多个”的含义是两个或两个以上。
[0015]下面结合附图,通过具体的实施例及其应用场景对本申请实施例提供的数据的处理方法进行详细地说明。
[0016]本申请实施例提供了一种数据的处理方法,该方法应用于存算一体芯片,其中,如图2所示,该存算一体芯片包括计算核,计算核包括:存储计算阵列、计算模块;基于此,图3是本申请实施例的数据的处理方法的流程图,如图3所示,该方法的步骤包括:
[0017]步骤S302,存储计算阵列对输入存算一体芯片的具有第一网络属性的第一神经网络的数据进行运算;
[0018]步骤S304,计算模块对输入存算一体芯片的不具有第一网络属性的第二神经网络的数据进行运算。
[0019]通过本申请实施例中的存算一体芯片,能够针对不同网络属性的神经网络采用不同的模块进行运算,即可以通过存储计算阵列对具有第一网络属性的第一神经网络的数据进行运算,以及可以通过计算模块对不具有第一网络属性的第二神经网络的数据进行运算,从而减轻了存算一体芯片中存储计算阵列的运算量,解决了现有技术中在采用存算一体芯片对数据进行处理的过程中,所有数据均需要存储计算阵列进行运算,导致存储计算阵列运算量大以及功耗高的问题。
[0020]需要说明的是,本申请实施例中的存算一体芯片可以是集成在由多个不同神经网络组成的混合神经网络中,该第一神经网络和第二神经网络为该混合神经网络中的神经网络,因此,通过该存算一体芯片分配计算核中计算模块和存储计算阵列可以处理的数据,使各个神经网络的处理效率保持平衡,可以提升混合神经网络的处理效率。
[0021]进一步地,在本申请实施例的可选实施方式中,本申请实施例中的存储计算阵列包括非易失性存储,在具体应用场景中该非易失性存储可以是NOR型闪存单元阵列、NAND型闪存单元阵列、RRAM(Resistive Random Access Memory,电阻性随机存取存储器)器件;上述非易失性存储仅仅是举例说明,在其他应用场景中该非易失性存储还可以是NVM(non-volatile memory)、MRAM(Magnetic Random Access Memory,非挥发性的磁性随机存储器)等。此外,在本申请实施例中,该存储计算阵列的运算方式可以为矩阵运算。
[0022]另外,本申请实施例中的计算模块可以包括以下至少之一:向量运算模块、矩阵运算模块。基于此,本申请实施例中的计算模块的运算方式可以为矩阵运算和/或向量运算。
[0023]在本申请实施例的另一个可选实施方式中,本申请实施例中的存储计算阵列预存储有第一神经网络的第一权重,该第一权重为第一神经网络中各个函数的权重,例如,激活函数、损失函数等的权重。基于此,由于预先存储有第一神经网络的第一权重,在第一神经网络的数据输入到存储计算阵列中后可以直接对其进行运算,大大提高了存储计算阵列的运算效率。
[0024]此外,本申请实施例中的具有第一网络属性的第一神经网络包括以下至少之一:使用频率超过第一预设阈值的神经网络、运算功耗超过第二预设阈值的神经网络、传输时延低于第三预设阈值的神经网络。也就是说,在运算过程中,可以将高频使用的数据直接输入存储阵列进行运算,低频使用的数据输入计算模块中进行运算,或者是将计算密集型功耗大给存储计算阵列,省延迟和节省带宽的数据给计算模块,或者,是将低延迟数据输入到存储计算阵列中,避免运算过程中数据频繁从片外本文档来自技高网
...

【技术保护点】

【技术特征摘要】
1.一种数据的处理方法,应用于存算一体芯片,其特征在于,所述存算一体芯片包括计算核,所述计算核包括:存储计算阵列、计算模块;所述方法包括:所述存储计算阵列对输入所述存算一体芯片的具有第一网络属性的第一神经网络的数据进行运算;所述计算模块对输入所述存算一体芯片的不具有第一网络属性的第二神经网络的数据进行运算。2.根据权利要求1所述的方法,其特征在于,所述存储计算阵列预存储有所述第一神经网络的第一权重。3.根据权利要求2所述的方法,其特征在于,具有所述第一网络属性的第一神经网络包括以下至少之一:使用频率超过第一预设阈值的神经网络、运算功耗超过第二预设阈值的神经网络、传输时延低于第三预设阈值的神经网络。4.根据权利要求1所述的方法,其特征在于,在所述计算模块对输入所述存算一体芯片的不具有第一网络属性的第二神经网络的数据进行运算之前,包括:所述存储计算阵列接收并存储所述第二神经网络的第二权重。5.根据权利要求1所述的方法,其特征在于,所述存储计算阵列和所述计算模块并行执行数据运算。6.根据权利要求1所述...

【专利技术属性】
技术研发人员:何伟沈杨书祝夭龙
申请(专利权)人:北京灵汐科技有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1