集成电路芯片装置及相关产品制造方法及图纸

技术编号:24171287 阅读:52 留言:0更新日期:2020-05-16 03:02
本披露提供一种集成电路芯片装置及相关产品,所述集成电路芯片装置包括:主处理电路以及多个基础处理电路;所述主处理电路或多个基础处理电路中至少一个基础处理电路包括:数据类型运算电路,所述数据类型运算电路,用于执行浮点类型数据以及定点类型数据之间的转换。本披露提供的技术方案具有计算量小,功耗低的优点。

Integrated circuit chip device and related products

【技术实现步骤摘要】
集成电路芯片装置及相关产品
本披露涉及神经网络领域,尤其涉及一种集成电路芯片装置及相关产品。
技术介绍
人工神经网络(ArtificialNeuralNetwork,即ANN),是20世纪80年代以来人工智能领域兴起的研究热点。它从信息处理角度对人脑神经元网络进行抽象,建立某种简单模型,按不同的连接方式组成不同的网络。在工程与学术界也常直接简称为神经网络或类神经网络。神经网络是一种运算模型,由大量的节点(或称神经元)之间相互联接构成。现有的神经网络的运算基于CPU(CentralProcessingUnit,中央处理器)或GPU(英文:GraphicsProcessingUnit,图形处理器)来实现神经网络的运算,此种运算的计算量大,功耗高。
技术实现思路
本披露实施例提供了一种集成电路芯片装置及相关产品,可提升计算装置的处理速度,提高效率。第一方面,提供一种集成电路芯片装置,所述集成电路芯片装置包括:主处理电路以及多个基础处理电路;所述主处理电路或多个基础处理电路中至少一个基础处理电路包括:数据类型运算电路,所述数据类型运算电路,用于执行浮点类型数据以及定点类型数据之间的转换;所述主处理电路,用于执行神经网络运算中的各个连续的运算以及与所述基础处理电路传输数据;所述多个基础处理电路,用于依据所述主处理电路传输的数据以并行方式执行神经网络中的运算,并将运算结果传输给所述主处理电路。第二方面,提供一种神经网络运算装置,所述神经网络运算装置包括一个或多个第一方面提供的集成电路芯片装置。第三方面,提供一种组合处理装置,所述组合处理装置包括:第二方面提供的神经网络运算装置、通用互联接口和通用处理装置;所述神经网络运算装置通过所述通用互联接口与所述通用处理装置连接。第四方面,提供一种芯片,所述芯片集成第一方面的装置、第二方面的装置或第三方面的装置。第五方面,提供一种电子设备,所述电子设备包括第四方面的芯片。第六方面,提供一种神经网络的运算方法,所述方法应用在集成电路芯片装置内,所述集成电路芯片装置包括:第一方面所述的集成电路芯片装置,所述集成电路芯片装置用于执行神经网络的运算。可以看出,通过本披露实施例,提供数据转换运算电路将数据块的类型进行转换后运算,节省了传输资源以及计算资源,所以其具有功耗低,计算量小的优点。附图说明图1a是一种集成电路芯片装置结构示意图。图1b是另一种集成电路芯片装置结构示意图。图1c是一种基础处理电路的结构示意图。图1d为一种定点数据类型的示意结构图。图2为一种矩阵乘以向量流程示意图。图2a是矩阵乘以向量的示意图。图2b为一种矩阵乘以矩阵流程示意图。图2c是矩阵Ai乘以向量B的示意图。图2d是矩阵A乘以矩阵B的示意图。图2e是矩阵Ai乘以矩阵B的示意图。图3a为神经网络训练示意图。图3b为卷积运算示意图。图4a为神经网络正向运算示意图。图4b为神经网络反向运算示意图。具体实施方式为了使本
的人员更好地理解本披露方案,下面将结合本披露实施例中的附图,对本披露实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本披露一部分实施例,而不是全部的实施例。基于本披露中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本披露保护的范围。在第一方面提供的装置中,所述集成电路芯片装置还包括:分支处理电路,所述分支处理电路设置在主处理电路与至少一个基础处理电路之间;所述分支处理电路,用于在主处理电路与至少一个基础处理电路之间转发数据。在第一方面提供的装置中,所述主处理电路,用于获取待计算的数据块以及运算指令,通过所述数据类型运算电路将待计算的数据块转换成定点类型的数据块,依据该运算指令对定点类型的待计算的数据块划分成分发数据块以及广播数据块;对所述分发数据块进行拆分处理得到多个基本数据块,将所述多个基本数据块分发至所述至少一个基础处理电路,将所述广播数据块广播至所述至少一个基础处理电路;所述基础处理电路,用于对所述基本数据块与所述广播数据块以定点类型执行内积运算得到运算结果,将所述运算结果发送至所述主处理电路;所述主处理电路,用于对所述运算结果处理得到所述待计算的数据块以及运算指令的指令结果。在第一方面提供的装置中,所述主处理电路,具体用于将所述广播数据块通过一次广播至所述多个基础处理电路。在第一方面提供的装置中,所述基础处理电路,具体用于将所述基本数据块与所述广播数据块以定点数据类型执行内积处理得到内积处理结果,将所述内积处理结果累加得到运算结果,将所述运算结果发送至所述主处理电路。在第一方面提供的装置中,所述主处理电路,用于在如所述运算结果为内积处理的结果时,对所述运算结果累加后得到累加结果,将该累加结果排列得到所述待计算的数据块以及运算指令的指令结果。在第一方面提供的装置中,所述主处理电路,具体用于将所述广播数据块分成多个部分广播数据块,将所述多个部分广播数据块通过多次广播至所述多个基础处理电路。在第一方面提供的装置中,所述基础处理电路,具体用于将所述部分广播数据块与所述基本数据块以定点数据类型执行一次内积处理后得到内积处理结果,将所述内积处理结果累加得到部分运算结果,将所述部分运算结果发送至所述主处理电路。在第一方面提供的装置中,所述基础处理电路,具体用于复用n次该部分广播数据块执行该部分广播数据块与该n个基本数据块内积运算得到n个部分处理结果,将n个部分处理结果分别累加后得到n个部分运算结果,将所述n个部分运算结果发送至主处理电路,所述n为大于等于2的整数。在第一方面提供的装置中,所述主处理电路包括:主寄存器或主片上缓存电路;所述基础处理电路包括:基本寄存器或基本片上缓存电路。在第一方面提供的装置中,所述主处理电路包括:向量运算器电路、算数逻辑单元电路、累加器电路、矩阵转置电路、直接内存存取电路、数据类型运算电路或数据重排电路中的一种或任意组合。在第一方面提供的装置中,所述主处理电路,用于获取待计算的数据块以及运算指令,依据该运算指令对所述待计算的数据块划分成分发数据块以及广播数据块;对所述分发数据块进行拆分处理得到多个基本数据块,将所述多个基本数据块分发至所述至少一个基础处理电路,将所述广播数据块广播至所述至少一个基础处理电路;所述基础处理电路,用于对所述基本数据块与所述广播数据块转换成定点类型的数据块,依据定点类型的数据块执行内积运算得到运算结果,将所述运算结果转换成浮点数据后发送至所述主处理电路;所述主处理电路,用于对所述运算结果处理得到所述待计算的数据块以及运算指令的指令结果。在第一方面提供的装置中,所述分支处理电路包含多个分支处理电路,所述主处理电路与所述多个分支处理电路分别连接,每个分支处理电路本文档来自技高网
...

【技术保护点】
1.一种集成电路芯片装置,其特征在于,所述集成电路芯片装置包括:主处理电路以及多个基础处理电路;所述主处理电路包括:数据类型运算电路,所述数据类型运算电路,用于执行浮点类型数据以及定点类型数据之间的转换;/n所述主处理电路,用于获取输入数据块、卷积核数据块以及卷积指令,通过所述数据类型运算电路将所述输入数据块、所述卷积核数据块转换成定点类型的输入数据块、定点类型的卷积核数据块,依据该卷积指令对定点类型的输入数据块划分成广播数据块,将定点类型的卷积核数据块划分成分发数据块;对所述分发数据块进行拆分处理得到多个基本数据块,将所述多个基本数据块分发至多个基础处理电路中的至少一个基础处理电路,将所述广播数据块广播至所述多个基础处理电路;/n所述多个基础处理电路,用于将所述广播数据块以及接收到基本数据块以定点数据类型执行卷积运算得到运算结果,并将运算结果传输给所述主处理电路;/n所述主处理电路,用于对该运算结果进行处理得到所述卷积指令的指令结果。/n

【技术特征摘要】
1.一种集成电路芯片装置,其特征在于,所述集成电路芯片装置包括:主处理电路以及多个基础处理电路;所述主处理电路包括:数据类型运算电路,所述数据类型运算电路,用于执行浮点类型数据以及定点类型数据之间的转换;
所述主处理电路,用于获取输入数据块、卷积核数据块以及卷积指令,通过所述数据类型运算电路将所述输入数据块、所述卷积核数据块转换成定点类型的输入数据块、定点类型的卷积核数据块,依据该卷积指令对定点类型的输入数据块划分成广播数据块,将定点类型的卷积核数据块划分成分发数据块;对所述分发数据块进行拆分处理得到多个基本数据块,将所述多个基本数据块分发至多个基础处理电路中的至少一个基础处理电路,将所述广播数据块广播至所述多个基础处理电路;
所述多个基础处理电路,用于将所述广播数据块以及接收到基本数据块以定点数据类型执行卷积运算得到运算结果,并将运算结果传输给所述主处理电路;
所述主处理电路,用于对该运算结果进行处理得到所述卷积指令的指令结果。


2.根据权利要求1的集成电路芯片装置,其特征在于,
所述多个基础处理电路,具体用于将所述广播数据块以及接收到的基本数据块以定点数据类型执行多次内积运算得到定点数据类的多个内积结果,将该多个内积结果进行累加得到累加结果,将该累加结果作为运算结果传输给所述主处理电路;
所述主处理电路,用于通过所述数据类型运算电路将定点数据类的累加结果转换成浮点类型的累加结果,将累加结果进行排序得到所述指令结果。


3.根据权利要求1-2任意一项所述的集成电路芯片装置,其特征在于,所述集成电路芯片装置还包括:分支处理电路,所述分支处理电路设置在主处理电路与至少一个基础处理电路之间;
所述分支处理电路,用于在主处理电路与至少一个基础处理电路之间转发数据。


4.根据权利要求1-2任意一项所述的集成电路芯片装置,其特征在于,
所述主处理电路,具体...

【专利技术属性】
技术研发人员:不公告发明人
申请(专利权)人:中科寒武纪科技股份有限公司
类型:发明
国别省市:北京;11

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1