数据处理系统、其操作方法以及使用该系统的计算系统技术方案

本公开涉及一种数据处理系统，其可以包括：矩阵拆分电路，被配置为：将矩阵拆分为正矩阵和负矩阵，并且将正矩阵和负矩阵分别存储在计算存储器内的第一子阵列和第二子阵列中；向量转换电路，被配置为：通过将向量内的元素与偏移相加来生成偏移向量，所述偏移用于将向量的元素之中具有最大绝对值的负元素转换为零元素或正元素，并且将偏移向量应用到第一子阵列和第二子阵列的行线；和偏移校正电路，被配置为：通过将偏移与正矩阵相乘的结果减去偏移与负矩阵相乘的结果来生成偏移校正值，并且从第一子阵列和第二子阵列输出的计算值减去偏移校正值。移校正值。移校正值。

【技术实现步骤摘要】
数据处理系统、其操作方法以及使用该系统的计算系统
[0001]相关申请的交叉引用
[0002]本申请要求于2022年1月20日提交的、申请号为10
‑
2022
‑
0008499的韩国专利申请的优先权，其通过引用整体并入本文。


[0003]本公开的多个实施例总体上涉及一种数据处理技术，并且更具体地，涉及一种数据处理系统、其操作方法以及使用该数据处理系统的计算系统。

技术介绍

[0004]随着人工智能(AI)应用和大数据分析的重要性增加的同时，其受到了越来越多的关注，对能够高效处理大数据的计算系统的需求也在增加。
[0005]人工神经网络是实现AI的一种方法。AI应用执行的计算主要由向量矩阵乘法组成，并且正在研究各种方法以高速准确地计算大量数据。

技术实现思路

[0006]在本公开的实施例中，一种数据处理系统可以包括：计算存储器，包括一个或多个子阵列，每个子阵列包括联接在多个行线和多个列线之间的多个存储器单元；矩阵拆分电路，被配置为：当从主机装置接收到的矩阵中包括负元素时，将矩阵拆分为由矩阵的正元素组成的正矩阵和由矩阵的负元素的绝对值组成的负矩阵，并且将正矩阵和负矩阵分别存储在计算存储器内的第一子阵列和第二子阵列中；向量转换电路，被配置为：当从主机装置接收到的向量中包括负元素时，通过将向量内的元素与偏移相加来生成偏移向量，该偏移用于将向量的元素之中具有最大绝对值的负元素转换为零元素或正元素，并且将偏移向量应用到第一子阵列和第二子阵列的行线；以及偏移校正电路，被配置为：通过将偏移与正矩阵相乘的结果减去偏移与负矩阵相乘的结果来生成偏移校正值，并且从第一子阵列和第二子阵列输出的计算值减去偏移校正值。
[0007]在本公开的实施例中，一种数据处理系统的操作方法可以包括：提供一种计算存储器，其包括一个或多个子阵列，每个子阵列包括联接在多个行线和多个列线之间的多个存储器单元；当从主机装置接收到的矩阵中包括负元素时，通过负数计算控制电路将矩阵拆分为由矩阵的正元素组成的正矩阵和由矩阵的负元素的绝对值组成的负矩阵；将正矩阵和负矩阵分别存储在计算存储器内的第一子阵列和第二子阵列中；当从主机装置接收到的向量中包括负元素时，通过负数计算控制电路将向量内的元素与偏移相加来生成偏移向量，该偏移用于将向量内的元素之中具有最大绝对值的负元素转换为零元素或正元素；负数计算控制电路将偏移向量应用到第一子阵列和第二子阵列的行线；负数计算控制电路通过将偏移与正矩阵相乘的结果减去偏移与负矩阵相乘的结果来生成偏移校正值；并且负数计算控制电路将从第一子阵列和第二子阵列输出的计算值减去偏移校正值。
[0008]在本公开的实施例中，一种计算系统可以包括：主机装置；数据处理系统，被配置
为根据主机装置的请求处理应用的计算，并且包括计算存储器，该计算存储器包括一个或多个子阵列，每个子阵列包括联接在多个行线和多个列线之间的多个存储器单元；以及负数计算控制电路，被配置为：当从主机装置接收到的矩阵中包括负元素时，将矩阵拆分为正矩阵和负矩阵；当从主机装置接收到的向量中包括负元素时，通过将向量与偏移相加来生成偏移向量；并且根据基于偏移生成的偏移校正值，校正计算值，该计算值被作为正矩阵和负矩阵中的每一个与偏移向量相乘的结果而从计算存储器输出。
[0009]在本公开的实施例中，一种内置存储器的计算装置的操作方法可以包括：通过将调整向量与提供的向量相加来生成包括非负元素的偏移向量；将提供的矩阵转换为正矩阵和负矩阵，以将正矩阵和负矩阵分别编程到第一和第二忆阻器存储器单元阵列中；通过在相应的第一和第二阵列的相应行上应用偏移信号并且以列为单元，将应用偏移信号的结果相加来生成正计算向量和负计算向量，偏移信号表示偏移向量的各个元素；通过将正计算向量减去负计算向量来生成中间向量；通过在相应的第一和第二阵列的行上应用调整信号并且以列为单元，对应用调整信号的结果相加来生成正校正向量和负校正向量，调整信号表示调整向量内每个元素具有的单个值；通过将正校正向量减去负校正向量来生成偏移校正向量；并且通过将中间向量减去偏移校正向量来生成结果向量，其中：所提供的向量是[1xN]维度，其中N是大于0的整数，所提供的正矩阵和负矩阵中的每一个以及第一和第二阵列都是[NxM]维度，其中M是大于0的整数，正矩阵包括所提供的矩阵的正元素和一个或多个零元素，并且负矩阵包括所提供的矩阵的负元素的绝对值元素和一个或多个零元素。
附图说明
[0010]图1是示出根据本公开的实施例的计算系统的配置图。
[0011]图2是示出根据本公开的实施例的神经网络处理器的配置图。
[0012]图3是示出根据本公开的实施例的计算存储器的配置图。
[0013]图4是示出根据本公开的实施例的负数计算控制电路的配置图。
[0014]图5是用于描述根据本公开的实施例的数据处理系统的操作方法的流程图。
[0015]图6A至6E是用于描述根据本公开的实施例的包括负数的VMM(向量
‑
矩阵乘法)的概念图。
[0016]图7是用于描述根据本公开的实施例的偏移校正值生成方法的概念图。
[0017]图8是示出根据本公开的实施例的负数计算控制电路的配置图。
[0018]图9是示出根据本公开的实施例的处理元件的配置图。
[0019]图10A至图10E是用于描述根据本公开的实施例的偏移向量提供方法的概念图。
[0020]图11是用于描述根据本公开的实施例的数据处理系统的操作方法的流程图。
具体实施方式
[0021]在下文中，将参照附图更详细地描述本公开的实施例。
[0022]图1是示出根据本公开的实施例的计算系统的配置图。
[0023]参照图1，根据实施例的计算系统10可以包括主机装置100和数据处理系统200。数据处理系统200可以包括神经网络处理器300，其被配置为根据主机装置100的请求来处理应用的计算。
[0024]主机装置100可以至少包括主处理器110、RAM 120、存储器130和输入/输出(I/O)装置140，并且进一步包括其他通用组件(未示出)。
[0025]在实施例中，主机装置100的组件可以集成为一个半导体芯片并且被实施为片上系统(SoC)。然而，实施例不限于此，主机装置100的组件可以实现为多个半导体芯片。
[0026]主处理器110可以控制计算系统10的全部操作。例如，中央处理单元(CPU)可以用作主处理器110。主处理器110可以包括一个或多个内核。主处理器110可以处理或执行存储在RAM 120和存储器130中的程序、数据或指令。例如，主处理器110可以通过执行存储在存储器130中的程序来控制计算系统10的功能。
[0027]RAM 120可以临时存储程序、数据或指令。根据引导代码或在主处理器110的控制下，存储在存储器130中的程序和/或数据可以被临时加载到RAM 120。RAM 120可以被实施本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种数据处理系统，包括：计算存储器，包括一个或多个子阵列，每个子阵列包括联接在多个行线和多个列线之间的多个存储器单元；矩阵拆分电路：当从主机装置接收到的矩阵中包括负元素时，将所述矩阵拆分为由所述矩阵的正元素组成的正矩阵和由所述矩阵的所述负元素的绝对值组成的负矩阵，并且将所述正矩阵和所述负矩阵分别存储在所述计算存储器内的第一子阵列和第二子阵列中；向量转换电路：当从所述主机装置接收到的向量中包括负元素时，通过将所述向量内的元素与偏移相加来生成偏移向量，所述偏移用于将所述向量的元素之中具有最大绝对值的负元素转换为零元素或正元素，并且将所述偏移向量应用到所述第一子阵列和所述第二子阵列的行线；以及偏移校正电路：通过将所述偏移与所述正矩阵相乘的结果减去所述偏移与所述负矩阵相乘的结果来生成偏移校正值，并且从所述第一子阵列和所述第二子阵列输出的计算值减去所述偏移校正值。2.根据权利要求1所述的数据处理系统，其中所述计算存储器通过将正计算值减去负计算值来生成所述计算值，所述正计算值作为所述正矩阵和所述偏移向量相乘的结果从所述第一子阵列输出，所述负计算值作为所述负矩阵和所述偏移向量相乘的结果从所述第二子阵列输出。3.根据权利要求2所述的数据处理系统，其中所述计算存储器进一步包括：模数转换器，将所述正计算值和所述负计算值分别转换为数字化正计算值和数字化负计算值；以及数字减法器，将所述数字化正计算值减去所述数字化负计算值以生成所述计算值。4.根据权利要求2所述的数据处理系统，其中所述计算存储器进一步包括：模拟减法器，将所述正计算值减去所述负计算值；以及模数转换器，转换所述模拟减法器的输出以生成所述计算值。5.根据权利要求1所述的数据处理系统，其中构成所述偏移向量的每个元素是由多个位组成的二进制数，所述数据处理系统进一步包括偏移向量拆分电路，所述偏移向量拆分电路：通过根据位值逐位拆分所述偏移向量来生成包括一个或多个部分偏移向量的顺序向量，并且所述向量转换电路将所述部分偏移向量顺序应用到所述第一子阵列和所述第二子阵列的行线。6.根据权利要求5所述的数据处理系统，其中所述计算存储器进一步包括位值排序电路，所述位值排序电路：根据所述部分偏移向量的位值对作为所述部分偏移向量与所述正矩阵相乘的结果的部分正计算值进行排序，
根据所述部分偏移向量的位值对作为所述部分偏移向量与所述负矩阵相乘的结果的部分负计算值进行排序，通过将所有排序的部分正计算值相加得出正计算值，并且通过将所有排序的部分负计算值相加得出负计算值。7.一种数据处理系统的操作方法，包括：提供计算存储器，所述计算存储器包括一个或多个子阵列，每个子阵列包括联接在多个行线和多个列线之间的多个存储器单元；当从主机装置接收到的矩阵中包括负元素时，通过负数计算控制电路将所述矩阵拆分为由所述矩阵的正元素组成的正矩阵和由所述矩阵的负元素的绝对值组成的负矩阵；将所述正矩阵和所述负矩阵分别存储在所述计算存储器内的第一子阵列和第二子阵列中；当从所述主机装置接收到的向量中包括负元素时，通过所述负数计算控制电路将所述向量内的元素与偏移相加来生成偏移向量，所述偏移用于将所述向量内的元素之中具有最大绝对值的负元素转换为零元素或正元素；所述负数计算控制电路将所述偏移向量应用到所述第一子阵列和所述第二子阵列的行线；所述负数计算控制电路通过将所述偏移与所述正矩阵相乘的结果减去所述偏移与所述负矩阵相乘的结果来生成偏移校正值；并且所述负数计算控制电路将从所述第一子阵列和所述第二子阵列输出的计算值减去所述偏移校正值。8.根据权利要求7所述的操...

【专利技术属性】
技术研发人员：诸相殷，
申请(专利权)人：爱思开海力士有限公司，
类型：发明
国别省市：