存储器访问制造技术

提供了一种用于管理存储器访问的方法，用于实施卷积神经网络的至少一层。该方法包括基于卷积神经网络的特征来预测与存储器的部分相关的访问过程。响应于该预测，该方法包括在所预测的访问过程之前执行用于获取与存储器的部分相对应的存储器地址转换并将其存储在存储装置中的操作。提供了一种装置，其包括至少一个处理器和存储装置。该设备被配置为预测与处理器外部的存储器的部分相关的访问过程。响应于该预测，该装置被配置为在所预测的访问过程之前获取与存储器的部分相对应的存储器地址转换并将其存储在存储装置中。

【技术实现步骤摘要】
存储器访问
本公开涉及用于管理数据处理的方法和装置。
技术介绍
用于实施卷积神经网络的处理器(例如神经处理单元(NPU)、中央处理单元(CPU)、图形处理单元(GPU)、数字信号处理器(DSP)和协处理器)具有板上存储器，通常以静态随机存取存储器(SRAM)的形式。当使用这种处理器实施卷积神经网络时，可能无法将所有数据(例如，包括输入数据、输出数据和与卷积神经网络中涉及的操作相对应的数据)都保持在处理器存储器(memory)上。至少一些数据可以存储在处理器外部的存储器中，这可以包括易失性和非易失性存储器。当执行卷积神经网络时，处理器可以访问外部存储器。处理器可以具有关联的存储装置(storage)(例如高速缓存，也称为转换后备缓冲器)，其存储与存储器中的位置相对应的存储器地址转换。存储器地址转换用于将处理器使用的存储器地址转换为标识存储关联的数据的存储器的部分的存储器地址。使用虚拟存储器可以使分散的物理存储器位置看起来是连续的。它们还可以允许在同一虚拟地址上运行的处理访问存储在物理存储器的不同部分中的数据的不同版本。由于大小限制，存储装置可能无本文档来自技高网...

【技术保护点】
1.一种用于管理存储器访问的方法，所述方法用于使用处理器对输入数据实施卷积神经网络的至少一层以生成输出数据，所述方法包括：/n基于所述卷积神经网络的至少一个或多个特征，预测与所述处理器外部的存储器的部分相关的访问过程；以及/n响应于所述预测，在所预测的访问过程之前，执行用于获取与所述存储器的部分相对应的存储器地址转换并将所述存储器地址转换存储在存储装置中的操作。/n

【技术特征摘要】
20190620 US 16/447,7281.一种用于管理存储器访问的方法，所述方法用于使用处理器对输入数据实施卷积神经网络的至少一层以生成输出数据，所述方法包括：
基于所述卷积神经网络的至少一个或多个特征，预测与所述处理器外部的存储器的部分相关的访问过程；以及
响应于所述预测，在所预测的访问过程之前，执行用于获取与所述存储器的部分相对应的存储器地址转换并将所述存储器地址转换存储在存储装置中的操作。


2.根据权利要求1所述的方法，其中，所述卷积神经网络的一个或多个特征包括以下项中的任一项：
所述输入数据的各部分要被访问以实施所述卷积神经网络的所述至少一层的顺序；
表示所述卷积神经网络的至少一部分的数据的各部分要被访问以实施所述卷积神经网络的至少一层的顺序；以及
当实施所述卷积神经网络的所述至少一层时所述输出数据的各部分被生成的顺序。


3.根据权利要求1所述的方法，其中，实施所述卷积神经网络的所述至少一层包括：对所述输入数据执行多个操作，并且每个操作针对所述输入数据中多个部分中的至少一部分执行，并且所述卷积神经网络的所述一个或多个特征包括以下项中的任何一项：
所述多个部分中至少一个部分的大小；以及
所述输入数据的哪些部分被包括在所述输入数据的每个部分中。


4.根据权利要求1所述的方法，其中，预测与所述处理器外部的所述存储器的部分相关的所述访问过程是基于所述输入数据的至少一个特征的，并且可选地，其中，所述输入数据的所述至少一个特征包括所述输入数据在所述处理器外部的存储器中的存储配置。


5.根据权利要求1所述的方法，其中，用于获取与所述存储器的部分相对应的所述存储器地址转换并将所述存储器地址转换存储在所述存储装置中的操作是以下项中的任何一项：
写入操作，其中所述写入操作是空写入操作，使得没有数据被写入到所述存储器的部分；
读取操作，用于读取所述存储器的部分；以及
自定义操作，用于获取所述存储器地址转换并将所述存储器地址转换存储在所述存储装置中。


6.根据权利要求1所述的方法，其中，所述方法包括根据以下项中的至少一项从所述存储装置中移除所述存储器地址转换：
对与所述存储器的部分的进一步访问...

【专利技术属性】
技术研发人员：沙吉尔·赛义德，达仁·克罗克斯福德，格雷姆·莱斯利·因格拉姆，
申请(专利权)人：ARM有限公司，顶级公司，
类型：发明
国别省市：英国;GB