一种存储器管理电路及共享存储器方法技术

本申请涉及计算机存储技术领域，提供一种存储器管理电路及共享存储器的方法，所述存储器管理电路包括配置管理模块、存储器核和多个接口管理电路，通过配置管理模块负责每个外部数据处理单元的地址空间分配，保证每个的数据处理单元可以分配各自需求的访存空间，不同的数据处理单元的访存空间可以被灵活分配，通过存储器核存储数据并接收接口管理电路的数据请求，通过配置多个接口管理电路，与外部的数据处理单元一一对应连接，确保每个数据处理单元可以独占一个接口管理电路。本申请提供的存储器管理电路，在共享存储器的空间的同时，又能保证每个数据处理单元的带宽需求。能保证每个数据处理单元的带宽需求。能保证每个数据处理单元的带宽需求。

【技术实现步骤摘要】
一种存储器管理电路及共享存储器方法


[0001]本申请涉及计算机存储
，具体涉及一种存储器管理电路及共享存储器的方法。

技术介绍

[0002]共享存储是指两个或多个数据处理单元共用一个主存储器的并行体系结构，每一个数据处理单元都可以把信息存入主存储器，或从中取出信息。共享存储器的体系结构使得若干处理器可以共享其存储器的地址空间，能够更好地应用至各个大计算量以及高性能计算的实际领域中，例如计算机视觉和自然语言处理等

[0003]在计算机视觉和自然语言处理等
中，卷积神经网络由于其硬件加速器算力大、计算效率高且计算功耗低，具有广泛的运用前景。随着神经网络处理器的不断发展，需要不同的数据处理单元实现不同的功能，比如，前处理单元、后处理单元、卷积计算单元和池化单元等，而不同的数据处理单元需要的数据占据不同的存储空间，所以，共享和管理这些存储空间至关重要。
[0004]在现有技术中，当一个数据处理模块正发起数据请求，与存储器通信时，其它数据处理模块是被挂起的，也就是说，总线系统中的接口是分时复用的，在共享存储器空间之后，多个数据处理单元的带宽无法保证。

技术实现思路

[0005]本申请提供一种存储器管理电路及共享存储器的方法，以解决现有的共享存储器技术，在多个数据处理单元的场景下，共享存储器的空间之后无法保证带宽需求的问题。
[0006]本申请第一方面提供一种存储器管理电路，所述一种存储器管理电路包括配置管理模块、存储器核和多个接口管理电路，其中，所述配置管理模块通过总线与CPU相连，所述存储器核提供多个访存接口，通过访存接口与所述接口管理电路连接，每个所述接口管理电路对应连接一个外部的数据处理单元；
[0007]所述配置管理模块用于负责每个数据处理单元的地址空间分配；
[0008]所述存储器核用于存储数据，并接收所述接口管理电路的数据请求；
[0009]所述接口管理电路用于根据分配的地址空间，为对应连接的数据处理单元提供数据路由和冲突控制功能。
[0010]可选的，所述存储器核包括多个存储体、交叉开关矩阵和存储器IO，所述存储体和所述存储器IO通过所述交叉开关矩阵相连，所述交叉开关矩阵用于提供所有存储体与存储器IO之间的全连接交叉矩阵。
[0011]可选的，所述存储体是存储核内部负责数据存储的单元，所有存储体进行统一编址，以供外部访问，其中，每个存储体能够单独被控制。
[0012]可选的，所述配置管理模块在分配每个数据处理单元的地址空间时，存储器核中每个存储体的地址空间仅单独分配给一个数据处理单元。
[0013]可选的，所述存储器IO为存储器核提供的外部访问接口，与接口管理电路一一对应连接。
[0014]可选的，所述接口管理电路包括地址偏移模块、地址请求模块、物理地址生成模块和物理地址请求模块；
[0015]所述地址请求模块用于处理对应连接的数据处理单元的数据请求；
[0016]所述物理地址生成模块用于根据配置管理模块分配的地址空间，生成真正的物理空间地址；
[0017]所述物理地址请求模块用于根据真正的物理空间地址，向存储器核发送数据请求。
[0018]可选的，所述接口管理电路还包括数据返回模块，所述数据返回模块用于接收存储器核返回的数据，以及，将该数据返回给对应连接的数据处理单元。
[0019]可选的，所述接口管理电路的数目能够灵活配置，以保证每个数据处理单元单独与接口管理电路连接。
[0020]本申请第二方面提供一种共享存储器的方法，所述共享存储器的方法应用于本申请第一方面提供的一种存储器管理电路，包括：
[0021]配置管理模块根据CPU的指令配置每个数据处理单元的可访问空间范围，获得每个数据处理单元的地址空间；
[0022]接收并处理对应连接的数据处理单元的数据请求；
[0023]根据对应连接的数据处理单元所分配的地址空间，生成真正的物理空间地址；
[0024]根据真正的物理空间地址，向存储器核发送数据请求，以及，存储器核根据物理空间地址返回对应数据。
[0025]可选的，所述配置管理模块根据CPU的指令配置每个数据处理单元的可访问空间范围，获得每个数据处理单元的地址空间，包括：
[0026]在为某个数据处理单元分配地址空间时，获取存储器核中各个存储体的分配状态；
[0027]筛选未被分配的存储体，以及，从未被分配的存储体中选择一个或多个存储体，获得该数据处理单元所分配的地址空间。
[0028]由以上技术方案可知，本申请提供的一种存储器管理电路及共享存储器的方法，包括配置管理模块、存储器核和多个接口管理电路，通过配置管理模块负责每个外部数据处理单元的地址空间分配，保证每个的数据处理单元可以分配各自需求的访存空间，不同的数据处理单元的访存空间可以被灵活分配，通过存储器核存储数据并接收接口管理电路的数据请求，通过配置多个接口管理电路，与外部的数据处理单元一一对应连接，确保每个数据处理单元可以独占一个接口管理电路，而不是像其他的总线系统那样接口是分时复用的，本申请提供的存储器管理电路，在共享存储器的空间的同时，又能保证每个数据处理单元的带宽需求。
附图说明
[0029]为了更清楚地说明本申请的技术方案，下面将对实施例中所需要使用的附图作简单地介绍，显而易见地，对于本领域普通技术人员而言，在不付出创造性劳动的前提下，还
可以根据这些附图获得其他的附图。
[0030]图1为本申请实施例提供的存储器管理电路与数据处理单元连接的示例图；
[0031]图2为本申请实施例提供的存储器管理电路的结构示意图；
[0032]图3为本申请实施例提供的存储器核的结构示意图；
[0033]图4为本申请实施例提供的交叉开关矩阵提供全连接交叉矩阵的示意图；
[0034]图5为本申请实施例提供的接口管理电路的结构示意图；
[0035]图6为本申请实施例提供的存储体和存储器IO物理连接的一种示例图；
[0036]图7为本申请实施例提供的存储体和存储器IO逻辑有效连接的一种示例图；
[0037]图8为本申请实施例提供的存储体和存储器IO逻辑有效连接的另一种示例图。
具体实施方式
[0038]下面将结合本申请实施例中的附图，对本申请实施例中的技术方案进行清楚、完整的描述，显然，所描述的实施例仅仅是本申请一部分实施例，而不是全部的实施例。基于本申请中的实施例，本领域普通技术人员在没有付出创造性劳动前提下所获得的所有其他实施例，都属于本申请保护的范围。
[0039]参见图1，为本申请实施例提供的存储器管理电路与数据处理单元连接的示例图，在本申请的应用场景下，一个共享存储器与多个外部的数据处理单元连接，以满足不同的数据处理单元共享存储空间，在现有技术中，多个数据处理单元共享存储器的空间，但每个数据处理单元的带宽无法保证，本申请提供的存储器管理电路，实本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种存储器管理电路，其特征在于，包括配置管理模块、存储器核和多个接口管理电路，其中，所述配置管理模块通过总线与CPU相连，所述存储器核提供多个访存接口，通过访存接口与所述接口管理电路连接，每个所述接口管理电路对应连接一个外部的数据处理单元；所述配置管理模块用于负责每个数据处理单元的地址空间分配；所述存储器核用于存储数据，并接收所述接口管理电路的数据请求；所述接口管理电路用于根据分配的地址空间，为对应连接的数据处理单元提供数据路由和冲突控制功能。2.根据权利要求1所述的一种存储器管理电路，其特征在于，所述存储器核包括多个存储体、交叉开关矩阵和存储器IO，所述存储体和所述存储器IO通过所述交叉开关矩阵相连，所述交叉开关矩阵用于提供所有存储体与存储器IO之间的全连接交叉矩阵。3.根据权利要求2所述的一种存储器管理电路，其特征在于，所述存储体是存储器核内部负责数据存储的单元，所有存储体进行统一编址，以供外部访问，其中，每个存储体能够单独被控制。4.根据权利要求3所述的一种存储器管理电路，其特征在于，所述配置管理模块在分配每个数据处理单元的地址空间时，存储器核中每个存储体的地址空间仅单独分配给一个数据处理单元。5.根据权利要求2所述的一种存储器管理电路，其特征在于，所述存储器IO为存储器核提供的外部访问接口，与接口管理电路一一对应连接。6.根据权利要求1所述的一种存储器管理电路，其特征在于，所述接口管理电路包括地址偏移模块、地址请求模块、物理地址生成模块和物理地址请求模块；所述地址请求模块用于处理...

【专利技术属性】
技术研发人员：杨东天，王丹阳，
申请(专利权)人：南京风兴科技有限公司，
类型：发明
国别省市：