存储器中的数据操控制造技术

本发明专利技术公开了存储器中的数据操控。所述硬件单元包括：内部缓冲器；存储器读取块，其被配置成从所述存储器读取数据并且将所述数据写入所述内部缓冲器；存储器写入块，其被配置成从所述内部缓冲器读取所述数据并且将所述数据写入所述存储器。硬件单元任选地还包括所述存储器读取块和所述存储器写入块之间的控制通道，其中，所述存储器读取块和所述存储器写入块被配置成经由所述控制通道进行通信，以分别在向所述内部缓冲器写入所述数据以及从所述内部缓冲器读取所述数据时在它们之间保持同步。硬件单元可以被配置成将一个或多个变换应用于存储器中的多维数据。所述硬件单元可以被配置成使用多个嵌套循环遍历多维数组。被配置成使用多个嵌套循环遍历多维数组。被配置成使用多个嵌套循环遍历多维数组。

【技术实现步骤摘要】
存储器中的数据操控


[0001]本专利技术涉及存储器中的数据操控。

技术介绍

[0002]在存储器中操控数据是数据处理系统中的关键赋能(enabling)任务。它在机器学习领域中尤其相关，其中数据——例如，一层神经网络的输入或输出数据——可能包括大型多维数组。
[0003]最终，物理存储器是作为一维线性结构被访问的。因此，为了存储在物理存储器中，必须将任何多维数组写为值的一维序列。这些值可以存储在存储器的一个连续块中的相继位置处。(出于本公开的目的，可以忽略碎片化效应。)
[0004]多维数组可以通过多种方式写入一维存储器中。然而，在不同时间，不同结构和格式在不同情况下可能是有用的。这样就产生了操控存储在存储器中的数据的需要。
[0005]在神经网络工作负荷的上下文中(但不限于此上下文)，可能有必要以各种方式操控此类数组中的数据。这可以包括变换数组的不同维度、使数组大小调整或级联、将数组转换为不同格式(例如，用于输入、输出或处理)，以及诸如深度到空间、空间到深度、批次到空间或空间到批次的转换。
>[0006]常规上本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种用于操控存储在存储器(205)中的数据的硬件单元(200)，所述硬件单元包括：内部缓冲器(210)；存储器读取块(220)，所述存储器读取块被配置成从所述存储器读取(310)所述数据并且将所述数据写入(320)到所述内部缓冲器(200)；存储器写入块(230)，所述存储器写入块被配置成从所述内部缓冲器(210)读取(330)所述数据并且将所述数据写入(340)到所述存储器(205)；以及所述存储器读取块(220)和所述存储器写入块(230)之间的控制通道(240)，其中，所述存储器读取块和所述存储器写入块被配置成经由所述控制通道(240)进行通信，以分别在向所述内部缓冲器写入(320)所述数据以及从所述内部缓冲器读取(330)所述数据时在它们之间保持同步。2.根据权利要求1所述的硬件单元(200)，其中，所述数据包括多维数组，所述多维数组包括多个数据元，其中，所述存储器读取块(220)和所述存储器写入块(230)中的至少一个被配置成使用多个嵌套循环遍历所述多维数组，每个循环具有与其相关联的所述多维数组的数据元之间的对应步幅。3.根据权利要求2所述的硬件单元(200)，其中，所述多个嵌套循环中的至少一个循环被配置成取决于以下各项中的至少一项迭代不同次数：(a)所述多个嵌套循环中的至少一个其它循环的循环索引；以及(b)软件可配置标志。4.根据权利要求2或权利要求3所述的硬件单元(200)，其中，所述多个循环中的每个循环被配置成执行可变次数的迭代，所述可变次数是在运行时从包括以下各项的组中选择的：当所述多个嵌套循环中的一个或多个外层循环不在其末端迭代中时要执行的第一迭代次数；以及当所述多个嵌套循环中的一个或多个外层循环处于其末端迭代中时要执行的第二迭代次数。5.根据前述权利要求中任一项所述的硬件单元(200)，其中，所述存储器读取块(220)被配置成以离散突发串从所述存储器(205)读取(310)所述数据，并且/或者所述存储器写入块(230)被配置成以离散突发串将所述数据写入(340)所述存储器(205)，所述离散突发串具有预定的第一大小，其中，所述存储器读取块(220)被配置成以离散单元将所述数据写入(320)所述内部缓冲器(210)，并且/或者所述存储器写入块(230)被配置成以离散单元从所述内部缓冲器(210)读取(330)所述数据，所述离散单元具有第二大小，其中，所述第二大小不同于所述第一大小。6.根据权利要求5所述的硬件单元(200)，其中，所述数据包括多维数组，所述多维数组包括多个数据元，其中，所述存储器读取块(220)和所述存储器写入块(230)中的至少一个被配置成使用多个嵌套循环遍历所述多维数组，每个循环具有与其相关联的所述多维数组的数据元之间的对应步幅，其中，当读取或写入所述多维数组的期望区段时，所述至少一个块被配置成基于所述期望区段的大小与所述第一大小之间的关系来选择至少一个循环中的迭代次数。
7.根据权利要求6所述的硬件单元(200)，其中，所述至少一个块被配置成：基于所述关系，确定待读取(310)或写入(340)的离散突发串包含额外数据，所述额外数据是所述期望区段的附加数据，并且计划在所述多个循环中的至少一个循环的稍晚迭代中读取或写入；以及作为响应，根据为所述稍晚迭代计划的操作，对所述当前迭代中的所述额外数据进行操作。8.根据前述权利要求中任一项所述的硬件单元(200)，其中，所述数据包括多维数组，所述多维数组包括多个数据元，其中，所述多维数组以具有预定第三大小的存储单元的存储格式存储在所述存储器(205)中，其中，所述多维数组的一个或多个维度不是所述第三大小的整数倍，其中，所述至少一个块(220，230)任选地被配置成对于所述多个嵌套...

【专利技术属性】
技术研发人员：A，
申请(专利权)人：想象技术有限公司，
类型：发明
国别省市：