数据处理系统及其操作方法技术方案

本申请公开了一种数据处理系统，该数据处理系统响应于来自主机的请求执行神经网络操作，包括：控制器，被配置成从主机接收控制信息和输入数据，并且通过对输入数据和权重执行操作来生成输出数据，该控制信息包括用于存储包括输入数据、输出数据和权重的参数的方案以及用于再使用权重的方案；以及存储器装置，被配置成在从主机传输权重时根据控制器的控制来存储权重，其中控制器包括地址转换器，该地址转换器被配置成基于参数存储方案和权重再使用方案将从主机提供的物理地址映射到存储器地址，使得权重的读取操作的带宽最大化。

【技术实现步骤摘要】
数据处理系统及其操作方法相关申请的交叉引用本申请要求于2019年12月17日向韩国知识产权局提交的申请号为10-2019-0168892的韩国申请的优先权，该韩国申请通过引用整体并入本文。
各个实施例可以总体涉及一种计算装置，并且更特别地，涉及一种数据处理系统及其操作方法。
技术介绍
随着对人工智能应用和大数据分析的兴趣和其重要性的增加，对能够高效处理大量数据的计算系统的需求也已增加。传统的计算系统侧重于以处理器为中心的计算，而最新的计算系统已经演化成为能够高速并行处理海量数据的以数据为中心的计算系统或以存储器为中心的计算系统。因此，由于减少了处理器和存储器之间的数据瓶颈，使计算性能最大化。因为计算装置的性能和速度取决于存储器的数据写入速率和数据读取速率，所以需要改进海量数据的高速输入和输出。
技术实现思路
在本公开的实施例中，一种数据处理系统，该数据处理系统响应于来自主机的请求执行神经网络操作，包括：控制器，被配置成从主机接收控制信息、输入数据和权重，并且通过对输入数据和权重执行操作来生成输本文档来自技高网...

【技术保护点】
1.一种数据处理系统，所述数据处理系统响应于来自主机的请求执行神经网络操作，包括：/n控制器，从所述主机接收控制信息、输入数据和权重，并且通过对输入数据和权重执行操作来生成输出数据，所述控制信息包括存储包括输入数据、输出数据和权重的参数的方案以及再使用权重的方案；以及/n存储器装置，在从所述主机传输权重时根据所述控制器的控制来存储该权重，/n其中所述控制器包括地址转换器，所述地址转换器基于参数存储方案和权重再使用方案将从所述主机提供的物理地址映射到存储器地址，使得权重的读取操作的带宽最大化。/n

【技术特征摘要】
20191217 KR 10-2019-01688921.一种数据处理系统，所述数据处理系统响应于来自主机的请求执行神经网络操作，包括：
控制器，从所述主机接收控制信息、输入数据和权重，并且通过对输入数据和权重执行操作来生成输出数据，所述控制信息包括存储包括输入数据、输出数据和权重的参数的方案以及再使用权重的方案；以及
存储器装置，在从所述主机传输权重时根据所述控制器的控制来存储该权重，
其中所述控制器包括地址转换器，所述地址转换器基于参数存储方案和权重再使用方案将从所述主机提供的物理地址映射到存储器地址，使得权重的读取操作的带宽最大化。


2.根据权利要求1所述的数据处理系统，其中所述物理地址包括指示由权重操作的所述输入数据的输入节点标识符即输入节点ID和指示使用权重生成的所述输出数据的输出节点ID。


3.根据权利要求2所述的数据处理系统，其中当使用所述权重再使用方案执行所述神经网络操作时，所述地址转换器将所述输入节点ID映射到第一存储器地址，并且将所述输出节点ID映射到第二存储器地址，所述第一存储器地址对应于在地址改变的访问中具有第一延迟的存储器分区，所述第二存储器地址对应于在地址改变的访问中具有短于该第一延迟的第二延迟的存储器分区。


4.根据权利要求3所述的数据处理系统，其中使用所述权重再使用方案执行的所述神经网络操作是卷积神经网络即CNN的卷积层操作。


5.根据权利要求2所述的数据处理系统，其中当不是在所述权重再使用方案中而是在所述参数存储方案的输入固定方案中执行所述神经网络操作时，所述地址转换器将所述输出节点ID映射到第二存储器地址，并且将所述输入节点ID映射到第一存储器地址，所述第二存储器地址对应于在地址改变的访问中具有第二延迟的存储器分区，所述第一存储器地址对应于在地址改变的访问中具有长于该第二延迟的第一延迟的存储器分区。


6.根据权利要求2所述的数据处理系统，其中当不是在所述权重再使用方案中而是在所述参数存储方案的输出固定方案中执行所述神经网络操作时，所述地址转换器将所述输入节点ID映射到第二存储器地址，并且将所述输出节点ID映射到第一存储器地址，所述第二存储器地址对应于在地址改变的访问中具有第二延迟的存储器分区，所述第一存储器地址对应于在地址改变的访问中具有长于该第二延迟的第一延迟的存储器分区。


7.根据权利要求6所述的数据处理系统，其中未再使用所述权重的所述神经网络操作是卷积神经网络即CNN的完全连接神经网络操作或完全连接层操作。


8.一种数据处理系统，所述数据处理系统响应于主机的请求执行神经网络操作，包括：
控制器，通过对从所述主机传输的输入数据和权重执行操作来生成输出数据；以及
存储器装置，根据所述控制器的控制存储从所述主机传输的所述权重，
其中所述控制器包括地址转换器，所述地址转换器从所述主机接收物理地址作为权重存储地址，并且根据针对所述操作读取的权重的输入节点标识符即输入节点ID和输出节点ID的改变模式将所述物理地址映射到存储器地址，所述物理地址包括输入节点ID和输出节点ID，所述输入节点ID指示利用所述权重操作的所述输入数据，所述输出节点ID指示作为所述权重和所述输入数据的操作结果的所述输出数据。


9.根据权利要求8所述的数据处理系统，其中所述物理地址包括与所述输入节点ID相对应的第一物理地址和与所述输出节点ID相对应的第二物理地址，
所述存储器地址包括第一存储器地址和第二存储器地址，所述第一存储器地址对应于在地址改变的访问中具有第一延迟的存储器分区，并且所述第二存储器地址对应于在地址改变的访问中具有短于所述第一延迟的第二延迟的存储器分区，并且
所述地址转换器将在所述操作中使用的多个权重的第一物理地址和第二物理地址中的具有较高改变频率的物理地址映射到所述第二存储器地址。


10.根据权利要求8所述的数据处理系统，其中所述物理地址包括与所述输入节点ID相对应的第一物理地址和与所述输出节点I...

【专利技术属性】
技术研发人员：陈永栽，
申请(专利权)人：爱思开海力士有限公司，
类型：发明
国别省市：韩国;KR