一种卷积计算方法、AI芯片及电子设备技术

技术编号:34786237 阅读:44 留言:0更新日期:2022-09-03 19:47
本申请涉及一种卷积计算方法、AI芯片及电子设备,属于计算机技术领域。该方法包括:分别利用各个权重块与同一个数据块进行卷积计算,得到每个权重块相对于数据块的卷积数据,其中,每个权重块为卷积计算所需的完整权重中的一部分,且每个权重块中的权重数量不大于总的计算单元的数量;将各个权重块相对于同一个数据块的卷积数据进行相加,得到卷积计算结果。通过将卷积计算所需的完整权重切分为多个权重块,分别利用各个权重块与同一个数据块进行卷积计算,之后再将各个权重块相对于同一个数据块的卷积数据进行相加,便可得到卷积计算结果,从而支持当卷积计算所需的权重数量大于总的计算单元的数量时的卷积计算。的计算单元的数量时的卷积计算。的计算单元的数量时的卷积计算。

【技术实现步骤摘要】
一种卷积计算方法、AI芯片及电子设备


[0001]本申请属于计算机
,具体涉及一种卷积计算方法、AI芯片及电子设备。

技术介绍

[0002]近年来,人工智能(Artificial Intelligence,AI)技术得到了迅猛发展,也取得了显著的成果,特别是在图像检测和识别以及语言识别等方向上,人工智能的识别率超过了人类。而神经网络处理是实现人工智能的重要处理技术。
[0003]随着大规模卷积神经网络的广泛应用,给硬件实现提出了更高的要求。目前的卷积计算方法仅支持卷积计算所需的权重数量小于等于硬件并行的计算单元的数量的计算。然而受制于硬件面积和功耗的约束,在硬件实现的过程中,一个cycle(周期)内的并行运算量总是有限的,当卷积计算所需的权重数量大于硬件并行的计算单元的数量时,传统的卷积计算方法则无法实现卷积计算。

技术实现思路

[0004]鉴于此,本申请的目的在于提供一种卷积计算方法、AI芯片及电子设备,以改善现有卷积计算方法无法适用于卷积计算所需的权重数量大于硬件并行的计算单元的数量的问题。
[0005本文档来自技高网
...

【技术保护点】

【技术特征摘要】
1.一种卷积计算方法,其特征在于,应用于包含多个计算单元的AI芯片,所述方法包括:分别利用各个权重块与同一个数据块进行卷积计算,得到每个所述权重块相对于所述数据块的卷积数据,其中,每个所述权重块为卷积计算所需的完整权重中的一部分,且每个所述权重块中的权重数量不大于总的计算单元的数量,每个所述数据块为卷积计算所需的完整数据中的一部分,通过按照硬件所支持的最大输出数据尺寸以及所述完整权重的尺寸对所述完整数据进行切分得到;将各个所述权重块相对于同一个数据块的卷积数据进行相加,得到卷积计算结果。2.根据权利要求1所述的方法,其特征在于,分别利用各个权重块与同一个数据块进行卷积计算,得到每个所述权重块相对于所述数据块的卷积数据,包括:将第i个权重块与所述第i个权重块在所述数据块中对应的目标数据进行卷积计算,得到所述第i个权重块相对于所述数据块的卷积数据,i依次取1至n,n为大于1的整数;所述目标数据为模拟利用所述完整权重按照预设步长在所述数据块中滑动,并从滑动所得的数据中选取出的与所述第i个权重块对应的数据。3.根据权利要求1所述的方法,其特征在于,将各个所述权重块相对于同一个数据块的卷积数据进行相加,得到卷积计算结果,包括:将第i+1个权重块相对于所述数据块的卷积数据与第i个权重块的卷积累加数据相加,得到所述第i+1个权重块的卷积累加数据,其中,第1个权重块的卷积累加数据等于所述第1个权重块相对于所述数据块的卷积数据,i依次取1至n,n为大于1的整数。4.根据权利要求1所述的方法,其特征在于,分别利用各个权重块与同一个数据块进行卷积计算,得到每个所述权重块相对于所述数据块的卷积数据之前,所述方法还包括:按照硬件所支持的计算单元的数量将所述完整权重切分为多个权重块,每个所述权重块中的权重数量不大于总的计算单元的数量。5.根据权利要求1
...

【专利技术属性】
技术研发人员:高聪李智李国嵩何浩王刚
申请(专利权)人:上海登临科技有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1