数据处理装置、方法、芯片、计算机设备及存储介质制造方法及图纸

技术编号:33039596 阅读:44 留言:0更新日期:2022-04-15 09:19
本公开提供了一种数据处理装置、方法、芯片、计算机设备及存储介质,其中,该数据处理装置包括:数据转化电路、以及计算电路;数据转化电路,用于接收待处理数据,并将待处理数据转化为第一符号数据、以及绝对值数据;向计算电路传输第一符号数据以及绝对值数据;第一符号数据表征对应的待处理数据为正值或者负值;计算电路,用于获取数据转化电路生成的第一符号数据以及绝对值数据,对绝对值数据进行第一运算处理,得到第一中间计算结果;以及,基于第一符号数据确定第一中间计算结果的第二符号数据;基于第二符号数据、以及第一中间计算结果进行第二运算处理,得到待处理数据的目标处理结果。结果。结果。

【技术实现步骤摘要】
数据处理装置、方法、芯片、计算机设备及存储介质


[0001]本公开涉及计算机
,具体而言,涉及一种数据处理装置、方法、芯片、计算机设备及存储介质。

技术介绍

[0002]矩阵乘法是人工智能(Artificial Intelligence,AI)芯片进行数据计算中最重要的操作之一,例如,在卷积神经网络的实现过程中,可以将卷积计算转化为矩阵乘法计算。当前的矩阵乘法计算中存在功耗大的问题。

技术实现思路

[0003]本公开实施例至少提供一种数据处理装置、方法、芯片、计算机设备及存储介质。
[0004]第一方面,本公开实施例提供了一种数据处理装置,包括:数据转化电路、以及计算电路;所述数据转化电路,用于接收待处理数据,并将所述待处理数据转化为第一符号数据、以及绝对值数据;向所述计算电路传输所述第一符号数据以及所述绝对值数据;所述第一符号数据表征对应的所述待处理数据为正值或者负值;所述计算电路,用于获取所述数据转化电路生成的所述第一符号数据以及所述绝对值数据,对所述绝对值数据进行第一运算处理,得到第一中间计算结果;以及,基于所述第一符号数据确定所述第一中间计算结果的第二符号数据;基于所述第二符号数据、以及所述第一中间计算结果进行第二运算处理,得到所述待处理数据的目标处理结果。
[0005]第二方面,本公开实施例还提供一种数据处理方法,应用于数据处理装置,所述数据处理装置包括:数据转化电路以及计算电路;所述方法包括:所述数据转化电路接收待处理数据,并将所述待处理数据转化为第一符号数据、以及绝对值数据;向所述计算电路传输所述第一符号数据以及所述绝对值数据;所述第一符号数据表征对应的所述待处理数据为正值或者负值;所述计算电路获取所述数据转化电路生成的所述第一符号数据以及所述绝对值数据,对所述绝对值数据进行第一运算处理,得到第一中间计算结果;以及,基于所述第一符号数据确定所述第一中间计算结果的第二符号数据;基于所述第二符号数据、以及所述第一中间计算结果进行第二运算处理,得到所述待处理数据的处理结果。
[0006]第三方面,本公开可选实施方式还提供一种芯片,包括:如上述第一方面、或第一方面中任一所述的数据处理装置。
[0007]第四方面,本公开可选实现方式还提供一种计算机设备,包括存储器和如上述第一方面、或第一方面中任一所述的数据处理装置、或如上述第三方面所述的芯片。
[0008]第五方面,本公开可选实现方式还提供一种计算机可读存储介质,该计算机可读存储介质上存储有计算机程序,该计算机程序被计算机设备运行时,所述计算机设备执行上述第二方面所述的数据处理方法的步骤。
[0009]关于上述数据处理方法、芯片、计算机设备、及计算机可读存储介质的效果描述参见上述数据处理装置的说明,这里不再赘述。
[0010]为使本公开的上述目的、特征和优点能更明显易懂,下文特举较佳实施例,并配合所附附图,作详细说明如下。
附图说明
[0011]为了更清楚地说明本公开实施例的技术方案,下面将对实施例中所需要使用的附图作简单地介绍,此处的附图被并入说明书中并构成本说明书中的一部分,这些附图示出了符合本公开的实施例,并与说明书一起用于说明本公开的技术方案。应当理解,以下附图仅示出了本公开的某些实施例,因此不应被看作是对范围的限定,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他相关的附图。
[0012]图1示出了本公开实施例所提供的一种数据处理装置的示意图;
[0013]图2a示出了本公开实施例所提供的数据处理装置对待处理数据进行处理时的一种具体示例的结构示意图;
[0014]图2b示出了本公开实施例所提供的数据处理装置对待处理数据进行处理时的另一种具体示例的结构示意图;
[0015]图3示出了本公开实施例所提供的另一种数据处理装置的示意图;
[0016]图4a示出了本公开实施例所提供的另一种数据处理装置对待处理数据进行处理时的一种具体示例的结构示意图;
[0017]图4b示出了本公开实施例所提供的另一种数据处理装置对待处理数据进行处理时的另一种具体示例的结构示意图;
[0018]图5示出了本公开实施例提供的一种数据转化电路的具体电路结构图;
[0019]图6示出了本公开实施例提供的另一种数据转化电路的具体电路结构图;
[0020]图7示出了本公开实施例提供的一种第二数值运算电路的结构示意图图;
[0021]图8示出了本公开实施例提供的一种对第一待处理矩阵C和第二待处理矩阵D进行乘法运算的数据处理装置的结构示意图;
[0022]图9示出了本公开实施例所提供的一种数据处理方法的流程示意图。
具体实施方式
[0023]为使本公开实施例的目的、技术方案和优点更加清楚,下面将结合本公开实施例中附图,对本公开实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本公开一部分实施例,而不是全部的实施例。通常在此处描述和示出的本公开实施例的组件可以以各种不同的配置来布置和设计。因此,以下对本公开的实施例的详细描述并非旨在限制要求保护的本公开的范围,而是仅仅表示本公开的选定实施例。基于本公开的实施例,本领域技术人员在没有做出创造性劳动的前提下所获得的所有其他实施例,都属于本公开保护的范围。
[0024]矩阵乘法是AI芯片进行数据计算中最重要的操作之一,例如,在卷积神经网络的实现过程中,可以将卷积计算转化为矩阵乘法计算;矩阵乘法计算的计算规则是,作为乘数的矩阵第i行的各矩阵元素,分别与对应的作为被乘数的第j列对应位置的各矩阵元素相乘,然后将乘积结果相加,得到结果矩阵中位于第i行第j列位置的矩阵元素。为了实现矩阵之间的乘法运算,在AI芯片中,需要部署实现矩阵运算的电路,而实现矩阵运算的电路通常
占用大量的芯片空间,并消耗了大部分的功耗,其占用的空间与消耗的功耗通常与待处理数据位宽呈正相关;当前的矩阵运算电路直接对有符号数据进行运算处理,由于有符号数据占据的位宽较大,导致在进行矩阵乘法运算过程中,需要消耗大量的功耗。
[0025]基于上述研究,本公开提供了一种数据处理装置、方法、芯片、计算机设备及存储介质,将有符号待处理数据之间的乘法运算转换为无符号的待处理数据之间的乘法运算,降低乘法运算时的数据位宽,减少矩阵乘法计算时所需要的芯片体积、以及功耗。
[0026]针对现有方案所存在的缺陷以及本公开所提出的解决方案,均是专利技术人在经过实践并仔细研究后得出的结果,因此,上述问题的发现过程以及文中本公开针对上述问题所提出的解决方案,都应该是专利技术人在本公开过程中对本公开做出的贡献。
[0027]应注意到:相似的标号和字母在下面的附图中表示类似项,因此,一旦某一项在一个附图中被定义,则在随后的附图中不需要对其进行进一步定义和解释。
[0028]本公开实施例所述的连接是指的硬件电路之间的连接,例如通过线路将不同的电路模块(例如数据转化电路和计算电路本文档来自技高网
...

【技术保护点】

【技术特征摘要】
1.一种数据处理装置,其特征在于,包括:数据转化电路、以及计算电路;所述数据转化电路,用于接收待处理数据,并将所述待处理数据转化为第一符号数据、以及绝对值数据;向所述计算电路传输所述第一符号数据以及所述绝对值数据;所述第一符号数据表征对应的所述待处理数据为正值或者负值;所述计算电路,用于获取所述数据转化电路生成的所述第一符号数据以及所述绝对值数据,对所述绝对值数据进行第一运算处理,得到第一中间计算结果;以及,基于所述第一符号数据确定所述第一中间计算结果的第二符号数据;基于所述第二符号数据、以及所述第一中间计算结果进行第二运算处理,得到所述待处理数据的目标处理结果。2.根据权利要求1所述的装置,其特征在于,所述数据转化电路的输出端、和所述计算电路的输入端连接;所述数据转化电路,还用于向所述计算电路传输所述第一符号数据以及所述绝对值数据;所述计算电路,在获取所述数据转化电路生成的所述第一符号数据以及所述绝对值数据时,用于接收所述数据转化电路传输的所述第一符号数据以及所述绝对值数据。3.根据权利要求1所述的装置,其特征在于,还包括:第一寄存器、以及第二寄存器;所述第一寄存器、所述第二寄存器均与所述数据转化电路的输出端、以及所述计算电路的输入端连接;所述数据转化电路,还用于将所述第一符号数据存储至所述第一寄存器,以及将所述绝对值数据存储至所述第二寄存器;所述计算电路,在获取所述数据转化电路生成的所述第一符号数据以及所述绝对值数据时,用于从所述第一寄存器中读取所述第一符号数据,以及从所述第二寄存器中读取所述绝对值数据。4.根据权利要求1

3任一项所述的装置,其特征在于,所述数据转化电路包括:第一转化电路以及第二转化电路;所述第一转化电路,用于接收所述待处理数据中预设第一比特位的第一数值;将接收到的所述第一数值作为所述第一符号数据、以及向所述第二转化电路传输所述第一数值;所述第二转化电路,用于接收所述待处理数据中预设第二比特位的第二数值,并基于所述第一转化电路传输的所述第一数值,对所述第二数值进行转化处理,得到所述绝对值数据。5.根据权利要求4所述的装置,其特征在于,所述第二转化电路包括:依次连接的第一加法器、第一取反电路、以及第一选择器;所述第一选择器的输入端与所述第一转换电路的输出端、以及所述第一取反电路的输出端连接;所述第一取反电路的输入端与所述第一加法器的输出端连接;其中,所述第一加法器,用于响应于接收到所述待处理数据中预设第二比特位的第二数值,将所述第二数值和预设数值求和,得到第一中间数值;向所述第一取反电路传输所述第一中间数值;所述第一取反电路,用于响应于接收到所述第一加法器传输的所述第一中间数值,对所述第一中间数值进行按位取反操作,得到第二中间数值,向所述第一选择器传输所述第二中间数值;
所述第一选择器,用于响应于接收到所述待处理数据中预设第二比特位的第二数值、所述第一取反电路传输的所述第二中间数值、以及所述第一转化电路传输的所述第一数值,将所述第一数值作为选择控制信号,控制将所述第二数值作为所述绝对值数据输出、或者控制将所述第二中间数值作为所述绝对值数据输出。6.根据权利要求1

5任一项所述的装置,其特征在于,所述待处理数据包括:第一待处理数据和第二待处理数据;所述第一待处理数据包括多个第一子数据;所述第二待处理数据包括多个第二子数据;所述数据转化电路包括:第一数据转化电路、以及第二数据转化电路;所述第一数据转化电路,用于接收所述第一待处理数据,并将所述第一待处理数据中的多个第一子数据分别转化为与每个所述第一子数据对应的第一符号数据以及绝对值数据;所述第二数据转化电路,用于接收所述第二待处理数据,并将所述第二待处理数据中的多个第二子数据分别转化为与每个所述第二子数据对应的第一符号数据以及绝对值数据。7.根据权利要求1

6任一项所述的装置,其特征在于,所述计算电路,包括:符号运算电路、第一数值运算电路、以及第二数值运算电路;所述符号运算电路的输出端与所述第二数值运算电路的输入端连接;所述第一数值运算电路的输出端与所述第二数值运算电路的输入端连接;所述符号运算电路,用于响应于获取到所述第一符号数据,并基于所述第一符号数据,确定所述第一中间计算结果的第二符号数据,向所述第二数值运算电路传输所述第二符号数据;所述第一数值运算电路,用于响应于获取到所述绝对值数据,对所述绝对值数据进行第一运算处理,得到所述第一中间计算结果;向所述第二数值运算电路传输所述第一中间计算结果;所述第二数值运算电路,用于响应于接收到所述符号运算电路传输的所述第二符号数据、以及所述第一数值运算电路传输的所述第一中间计算结果,基于所述第二符号数据以及所述第一中间计算结果,进行第二运算处理,得到所述待处理数据的目标处理结果。8.根据权利要求7所述的装置,其特征在于,所述第一运算处理包括:乘法处理;...

【专利技术属性】
技术研发人员:霍冠廷王文强徐宁仪
申请(专利权)人:上海阵量智能科技有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1