数据处理装置以及数据处理方法制造方法及图纸

一种数据处理装置以及数据处理方法，该数据处理装置包括：双向数据处理模块，包括至少一个存储计算一体化的计算阵列，被配置为执行推理计算任务和训练计算任务；控制模块，被配置为将双向数据处理模块的工作模式切换为推理工作模式，以及将双向数据处理模块的工作模式切换为训练工作模式；参数管理模块，被配置为设置双向数据处理模块的权重参数；输入输出模块，被配置为响应于控制模块的控制，根据计算任务的输入数据生成计算输入信号，并将计算输入信号提供给双向数据处理模块，从双向数据处理模块接收计算输出信号并根据计算输出信号生成输出数据。该数据处理装置可以满足多种神经网络算法的推理与训练的要求。神经网络算法的推理与训练的要求。神经网络算法的推理与训练的要求。

【技术实现步骤摘要】
数据处理装置以及数据处理方法


[0001]本公开的实施例涉及一种数据处理装置以及一种数据处理方法。

技术介绍

[0002]当前，基于神经网络(Neural Network)算法的人工智能技术已在日常生活的许多应用场景中展现出了强大的能力，例如语音处理、目标识别与检测、图像处理、自然语言处理等。但是由于算法本身的特点，算法对于硬件的计算能力提出了较高的要求。传统的处理装置由于其存储与计算分离的设计特点，在功耗与运算效率上无法有效地满足特定场景下的人工智能应用的需要。目前大规模的神经网络算法需要借助有强大计算能力的计算集群才能得到较好的表现，从而无法有效地部署在例如移动电子设备、物联网设备、边缘设备等体积、电源等资源有限的场景中使用。

技术实现思路

[0003]本公开一些实施例提供了一种数据处理装置，包括：双向数据处理模块，包括至少一个存储计算一体化的计算阵列，被配置为执行计算任务，其中，计算任务包括推理计算任务和训练计算任务；控制模块，被配置为将双向数据处理模块的工作模式切换为推理工作模式以执行推理计算任务，以及将双向数据处理模块的工作模式切换为训练工作模式以执行训练计算任务；参数管理模块，被配置为设置双向数据处理模块的权重参数；输入输出模块，被配置为响应于控制模块的控制，根据计算任务的输入数据生成计算输入信号，并将计算输入信号提供给双向数据处理模块，从双向数据处理模块接收计算输出信号并根据计算输出信号生成输出数据。
[0004]例如，在本公开一些实施例提供的一种数据处理装置中，所述计算阵列包括忆阻器阵列以用于实现所述存储计算一体化，所述忆阻器阵列包括阵列布置的多个忆阻器。
[0005]例如，在本公开一些实施例提供的一种数据处理装置中，所述参数管理模块包括：权重阵列写单元，被配置为通过使用所述权重参数改变所述多个忆阻器中每个忆阻器的电导值以将所述权重参数写入所述忆阻器阵列；以及，权重阵列读单元，被配置为从所述忆阻器阵列读取所述多个忆阻器中每个忆阻器的电导值，完成权重参数的读取。
[0006]例如，在本公开一些实施例提供的一种数据处理装置中，所述输入输出模块包括：第一输入子模块，与所述双向数据处理模块的第一连接端侧连接以提供用于所述推理计算任务的第一输入数据的输入信号；第一输出子模块，与所述双向数据处理模块的第二连接端侧连接以接收所述推理计算任务的计算结果并产生第一输出数据；第二输入子模块，与所述双向数据处理模块的第二连接端侧连接以提供基于所述训练计算任务的第二输入数据的输入信号；第二输出子模块，与所述双向数据处理模块的第一连接端侧连接以接收所述训练计算任务的计算结果并产生第二输出数据。
[0007]例如，在本公开一些实施例提供的一种数据处理装置中，所述第一输入子模块包括：第一数据缓冲单元；第一数模信号转换器；第一多路选通器，其中，所述第一数据缓冲单
元配置为接收所述第一输入数据，并将所述第一输入数据提供至所述第一数模信号转换器，所述第一数模信号转换器配置为对所述第一输入数据进行数模转换并将转换输出的第一输入信号提供至所述第一多路选通器，所述第一多路选通器配置为通过选通的通道将所述第一输入信号提供至所述双向数据处理模块的第一连接端侧，所述第一输出子模块包括：第二多路选通器；第一采样保持单元；第二模数信号转换器；第一移位累加单元；第二数据缓冲单元，其中，所述第二多路选通器配置为从所述双向数据处理模块的第二连接端侧接收所述第一输出信号，且通过选通的通道向所述第一采样保持单元提供所述第一输出信号，所述第一采样保持单元配置为对所述第一输出信号采样后将采样后的第一输出信号提供给所述第二模数信号转换器，所述第二模数信号转换器配置为对所述采样后的第一输出信号进行模数转换，并将转换输出的第一输出数据提供给所述第一移位累加单元，所述第一移位累加单元配置为将所述第一输出数据提供给所述第二数据缓冲单元，所述第二数据缓冲单元配置为输出所述第一输出数据，所述第二输入子模块包括：第三数据缓冲单元；第三数模信号转换器；第三多路选通器，其中，所述第三数据缓冲单元配置为接收所述第二输入数据，并将所述第二输入数据提供至所述第三数模信号转换器，所述第三数模信号转换器配置为对所述第二输入数据进行数模转换并将转换输出的第二输入信号提供至所述第三多路选通器，所述第三多路选通器配置为通过选通的通道将所述第二输入信号提供至所述双向数据处理模块的第二连接端侧，所述第二输出子模块包括：第四多路选通器；第二采样保持单元；第四模数信号转换器；第二移位累加单元；第四数据缓冲单元，其中，所述第四多路选通器配置为从所述双向数据处理模块的第一连接端侧接收所述第二输出信号，通过选通的通道向所述第二采样保持单元提供所述第二输出信号，所述第二采样保持单元配置为对所述第二输出信号采样后将采样后的第二输出信号提供给所述第四模数信号转换器，所述第四模数信号转换器配置为对所述采样后的第二输出信号进行模数转换，并将转换输出的第二输出数据提供给所述第二移位累加单元，所述第二移位累加单元配置为将所述第二输出数据提供给所述第四数据缓冲单元，所述第四数据缓冲单元配置为输出所述第二输出数据。
[0008]例如，在本公开一些实施例提供的一种数据处理装置中，所述控制模块配置为：在所述推理工作模式，将所述第一输入子模块与所述双向数据处理模块的第一连接端侧连接以提供用于所述推理计算任务的第一输入数据的输入信号，以及将所述第一输出子模块与所述双向数据处理模块的第二连接端侧连接以接收所述推理计算任务的计算结果并产生第一输出数据；以及，在所述训练工作模式，将所述第二输入子模块，与所述双向数据处理模块的第二连接端侧连接以提供基于所述训练计算任务的第二输入数据的输入信号，以及将所述第二输出子模块与所述双向数据处理模块的第一连接端侧连接以接收所述训练计算任务的计算结果并产生第二输出数据。
[0009]例如，在本公开一些实施例提供的一种数据处理装置中，所述输入输出模块包括：第一输入输出子模块，与所述双向数据处理模块的第一连接端侧连接以提供基于所述推理计算任务的第一输入数据的第一输入信号，以及与所述双向数据处理模块的第一连接端侧连接以接收所述训练计算任务的计算结果并产生第二输出数据；第二输入输出子模块，与所述双向数据处理模块的第二连接端侧连接以提供基于所述训练计算任务的第二输入数据的输入信号，以及与所述双向数据处理模块的第二连接端侧连接以接收所述推理计算任
务的计算结果并产生第一输出数据。
[0010]例如，在本公开一些实施例提供的一种数据处理装置中，所述第一输入输出子模块包括：第一数据缓冲单元；第一移位累加单元；第一数模信号转换器；第一模数信号转换器；第一采样保持单元；第一多路选择器，其中，所述第一数据缓冲单元配置为接收所述第一输入数据，并将所述第一输入数据提供至所述第一数模信号转换器，所述第一数模信号转换器配置为对所述第一输入数据进行数模转换并将转换输出的第一输入信号提供至所述第一多路选通器，所述第一多路选通器配置为通过选通的通道将所述第一输入信号提供至所述双向数据处理模块本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种数据处理装置，包括：双向数据处理模块，包括至少一个存储计算一体化的计算阵列，被配置为执行计算任务，其中，所述计算任务包括推理计算任务和训练计算任务；控制模块，被配置为将所述双向数据处理模块的工作模式切换为推理工作模式以执行所述推理计算任务，以及将所述双向数据处理模块的工作模式切换为训练工作模式以执行所述训练计算任务；参数管理模块，被配置为设置所述双向数据处理模块的权重参数；输入输出模块，被配置为响应于所述控制模块的控制，根据所述计算任务的输入数据生成计算输入信号，并将所述计算输入信号提供给所述双向数据处理模块，从所述双向数据处理模块接收计算输出信号并根据所述计算输出信号生成输出数据。2.如权利要求1所述的数据处理装置，其中，所述计算阵列包括忆阻器阵列以用于实现所述存储计算一体化，所述忆阻器阵列包括阵列布置的多个忆阻器。3.如权利要求2所述的数据处理装置，其中，所述参数管理模块包括：权重阵列写单元，被配置为通过使用所述权重参数改变所述多个忆阻器中每个忆阻器的电导值以将所述权重参数写入所述忆阻器阵列；以及权重阵列读单元，被配置为从所述忆阻器阵列读取所述多个忆阻器中每个忆阻器的电导值，完成权重参数的读取。4.如权利要求1所述的数据处理装置，其中，所述输入输出模块包括：第一输入子模块，与所述双向数据处理模块的第一连接端侧连接以提供用于所述推理计算任务的第一输入数据的输入信号；第一输出子模块，与所述双向数据处理模块的第二连接端侧连接以接收所述推理计算任务的计算结果并产生第一输出数据；第二输入子模块，与所述双向数据处理模块的第二连接端侧连接以提供基于所述训练计算任务的第二输入数据的输入信号；以及第二输出子模块，与所述双向数据处理模块的第一连接端侧连接以接收所述训练计算任务的计算结果并产生第二输出数据。5.如权利要求4所述的数据处理装置，其中，所述第一输入子模块包括：第一数据缓冲单元；第一数模信号转换器；第一多路选通器，其中，所述第一数据缓冲单元配置为接收所述第一输入数据，并将所述第一输入数据提供至所述第一数模信号转换器，所述第一数模信号转换器配置为对所述第一输入数据进行数模转换并将转换输出的第一输入信号提供至所述第一多路选通器，所述第一多路选通器配置为通过选通的通道将所述第一输入信号提供至所述双向数据处理模块的第一连接端侧，所述第一输出子模块包括：第二多路选通器；第一采样保持单元；
第二模数信号转换器；第一移位累加单元；第二数据缓冲单元，其中，所述第二多路选通器配置为从所述双向数据处理模块的第二连接端侧接收所述第一输出信号，且通过选通的通道向所述第一采样保持单元提供所述第一输出信号，所述第一采样保持单元配置为对所述第一输出信号采样后将采样后的第一输出信号提供给所述第二模数信号转换器，所述第二模数信号转换器配置为对所述采样后的第一输出信号进行模数转换，并将转换输出的第一输出数据提供给所述第一移位累加单元，所述第一移位累加单元配置为将所述第一输出数据提供给所述第二数据缓冲单元，所述第二数据缓冲单元配置为输出所述第一输出数据，所述第二输入子模块包括：第三数据缓冲单元；第三数模信号转换器；第三多路选通器，其中，所述第三数据缓冲单元配置为接收所述第二输入数据，并将所述第二输入数据提供至所述第三数模信号转换器，所述第三数模信号转换器配置为对所述第二输入数据进行数模转换并将转换输出的第二输入信号提供至所述第三多路选通器，所述第三多路选通器配置为通过选通的通道将所述第二输入信号提供至所述双向数据处理模块的第二连接端侧，所述第二输出子模块包括：第四多路选通器；第二采样保持单元；第四模数信号转换器；第二移位累加单元；第四数据缓冲单元，其中，所述第四多路选通器配置为从所述双向数据处理模块的第一连接端侧接收所述第二输出信号，通过选通的通道向所述第二采样保持单元提供所述第二输出信号，所述第二采样保持单元配置为对所述第二输出信号采样后将采样后的第二输出信号提供给所述第四模数信号转换器，所述第四模数信号转换器配置为对所述采样后的第二输出信号进行模数转换，并将转换输出的第二输出数据提供给所述第二移位累加单元，所述第二移位累加单元配置为将所述第二输出数据提供给所述第四数据缓冲单元，所述第四数据缓冲单元配置为输出所述第二输出数据。6.如权利要求4或5所述的数据处理装置，其中，所述控制模块配置为：在所述推理工作模式，将所述第一输入子模块与所述双向数据处理模块的第一连接端侧连接以提供用于所述推理计算任务的第一输入数据的输入信号，以及将所述第一输出子模块与所述双向数据处理模块的第二连接端侧连接以接收所述推理计算任务的计算结果并产生第一输出数据；以及在所述训练工作模式，将所述第二输入子模块，与所述双向数据处理模块的第二连接端侧连接以提供基于所述训练计算任务的第二输入数据的输入信号，以及将所述第二输出
子模块与所述双向数据处理模块的第一连接端侧连接以接收所述训练计算任务的计算结果并产生第二输出数据。7.如权利要求1所述的数据处理装置，其中，所述输入输出模块包括：第一输入输出子模块，与所述双向数据处理模块的第一连接端侧连接以提供基于所述推理计算任务的第一输入数据的第一输入信号，以及与所述双向数据处理模块的第一连接端侧连接以接收所述训练计算任务的计算结果并产生第二输...

【专利技术属性】
技术研发人员：吴华强，喻睿华，姚鹏，吴大斌，高滨，何虎，唐建石，钱鹤，
申请(专利权)人：清华大学，
类型：发明
国别省市：