预测性数据存储分级存储器系统及方法技术方案

技术编号:24683002 阅读:63 留言:0更新日期:2020-06-27 07:52
提供预测性数据存储分级存储器系统及方法。所述存储器系统包含:高速缓冲存储器,其实施第一存储器层级;及存储器阵列,其实施第二存储器层级,所述第二存储器层级高于所述第一存储器层级。另外,所述存储器系统包含一或多个存储器控制器,所述一或多个存储器控制器至少部分地基于将存储在所述存储器子系统中的第一数据的第一上下文、先前存储在所述存储器系统中的第二数据的第二上下文或这两者来确定预期在即将到来的控制时程期间出现的所预测数据存取型式,且至少部分地基于所述所预测数据存取型式来控制在实施在所述存储器系统中的多个分级存储器层级中的哪一或多个存储器层级中存储所述第一数据、所述第二数据或这两者。

Predictive data storage hierarchical memory system and method

【技术实现步骤摘要】
预测性数据存储分级存储器系统及方法
本专利技术大体来说涉及存储器系统(例如子系统),且更确切来说涉及跨越实施在存储器系统中的多个分级存储器层级(例如,层)预测性地控制(例如,调整)数据存储。
技术介绍
通常,计算系统包含处理子系统及存储器子系统,所述存储器子系统可存储可由处理子系统的处理电路系统存取的数据。举例来说,为执行操作,处理电路系统可执行从实施在存储器子系统中的存储器装置检索到的对的指令。在一些实例中,也可从所述存储器装置检索所述输入到所述操作的数据。另外或另一选择为,可将从操作输出(例如,所得)的数据存储在所述存储器装置中以例如能够供后续检索。然而,至少在一些实例中,计算系统的操作效率可受其架构限制,举例来说,所述架构管控在计算系统中执行的操作顺序。
技术实现思路
在一个方面中,本申请案涉及一种设备,所述设备包括:处理系统,其包括处理电路系统以及一或多个寄存器;及存储器系统,其经由一或多个通信总线通信耦合到所述处理系统且经配置以经由多个分级存储器层级提供数据存储,其中所述存储器系统包括:第一一或多个高速缓冲存储器,本文档来自技高网...

【技术保护点】
1.一种设备,其包括:/n处理系统,其包括处理电路系统以及一或多个寄存器;及/n存储器系统,其经由一或多个通信总线通信耦合到所述处理系统且经配置以经由多个分级存储器层级提供数据存储,其中所述存储器系统包括:/n第一一或多个高速缓冲存储器,其经配置以实施所述多个分级存储器层级中的第一存储器层级;/n第一存储器阵列,其经配置以实施所述多个分级存储器层级中的第二存储器层级,所述第二存储器层级高于所述第一存储器层级;及/n一或多个存储器控制器,其经配置以:/n至少部分地基于将存储在所述存储器系统中的第一数据的第一上下文、先前存储在所述存储器系统中的第二数据的第二上下文或这两者来确定预期在即将到来的控制...

【技术特征摘要】
20181219 US 16/226,2441.一种设备,其包括:
处理系统,其包括处理电路系统以及一或多个寄存器;及
存储器系统,其经由一或多个通信总线通信耦合到所述处理系统且经配置以经由多个分级存储器层级提供数据存储,其中所述存储器系统包括:
第一一或多个高速缓冲存储器,其经配置以实施所述多个分级存储器层级中的第一存储器层级;
第一存储器阵列,其经配置以实施所述多个分级存储器层级中的第二存储器层级,所述第二存储器层级高于所述第一存储器层级;及
一或多个存储器控制器,其经配置以:
至少部分地基于将存储在所述存储器系统中的第一数据的第一上下文、先前存储在所述存储器系统中的第二数据的第二上下文或这两者来确定预期在即将到来的控制时程期间出现的所预测数据存取型式;且
至少部分地基于所述所预测数据存取型式来控制在实施在所述存储器系统中的所述多个分级存储器层级中的哪一或多个存储器层级中存储所述第一数据、所述第二数据或这两者。


2.根据权利要求1所述的设备,其中:
所述处理系统经配置以输出将存储在所述存储器系统中的所述第一数据及写入存储器存取请求,所述写入存储器存取请求指示所述第一数据的所述第一上下文;且
响应于接收到所述写入存储器存取请求,所述一或多个存储器控制器经配置以:
至少部分地通过以下方式来确定所述所预测数据存取型式:至少部分地基于所述写入存储器存取请求中所指示的所述第一数据的所述第一上下文、先前存储在所述存储器系统中的所述第二数据的所述第二上下文或这两者来确定所述第一数据的下一所预测目标时间;且
在当前时间与所述第一数据的所述下一所预测目标时间之间的持续时间小于与所述第一存储器层级相关联的第一持续时间阈值时,至少部分地通过指挥所述存储器系统将所述第一数据存储在使用所述第一一或多个高速缓冲存储器实施的所述第一存储器层级中来控制在哪一或多个存储器层级中存储所述第一数据。


3.根据权利要求2所述的设备,其中:
所述存储器系统包括高于所述第一存储器层级且低于所述第二存储器层级的中间存储器层级;且
响应于接收到所述写入存储器存取请求,所述一或多个存储器控制器经配置以:
在所述当前时间与所述第一数据的所述下一所预测目标时间之间的所述持续时间不小于与所述第一存储器层级相关联的所述第一持续时间阈值时,确定所述持续时间是否小于与所述中间存储器层级相关联的中间持续时间阈值;且
至少部分地通过以下步骤来控制在哪一或多个存储器层级中存储所述第一数据:
在所述当前时间与所述第一数据的所述下一所预测目标时间之间的所述持续时间小于与所述中间存储器层级相关联的所述中间持续时间阈值时,指挥所述存储器系统将所述第一数据存储在所述中间存储器层级中;及
在所述当前时间与所述第一数据的所述下一所预测目标时间之间的所述持续时间不小于与所述中间存储器层级相关联的所述中间持续时间阈值时,指挥所述存储器系统将所述第一数据存储在使用所述第一存储器阵列实施的所述第二存储器层级中。


4.根据权利要求1所述的设备,其中:
所述处理系统经配置以在所述处理电路系统将所述第二数据定为目标且所述第二数据引起寄存器未命中时,输出指示所述第二数据的所述第二上下文及读取存取参数的读取存储器存取请求;且
响应于接收到所述读取存储器存取请求,所述一或多个存储器控制器经配置以:
至少部分地基于所述读取存储器存取请求中所指示的所述读取存取参数来将所述第二数据定位并输出到所述处理系统;
更新与所述第二数据相关联的数据存取信息;且
至少部分地基于所述读取存储器存取请求中所指示的所述第二数据的所述第二上下文、先前存储在所述存储器系统中的第三数据的第三上下文、所述数据存取信息或其任何组合来确定所述所预测数据存取型式。


5.根据权利要求4所述的设备,其中所述一或多个存储器控制器经配置以:
至少部分地通过以下方式来确定所述所预测数据存取型式:至少部分地基于所述读取存储器存取请求中所指示的所述第二数据的所述第二上下文、先前存储在所述存储器系统中的所述第三数据的所述第三上下文、所述数据存取信息或其任何组合来确定由所述读取存储器存取请求定为目标的所述第二数据的下一所预测目标时间;
确定当前时间与所述第二数据的所述下一所预测目标时间之间的持续时间是否小于与所述存储器系统中存储所述第二数据的当前存储器层级相关联的当前持续时间阈值;
在所述当前时间与所述第二数据的所述下一所预测目标时间之间的所述持续时间小于与所述当前存储器层级相关联的所述当前持续时间阈值且所述当前存储器层级不是实施在所述存储器系统中的所述多个分级存储器层级中的最低存储器层级时,确定所述持续时间是否小于与所述第一存储器层级相关联的较低持续时间阈值;
在所述当前时间与所述第二数据的所述下一所预测目标时间之间的所述持续时间不小于与所述当前存储器层级相关联的所述当前持续时间阈值且所述当前存储器层级不是实施在所述存储器系统中的所述多个分级存储器层级中的最高存储器层级时,确定所述持续时间是否小于与所述第二存储器层级相关联的较高持续时间阈值;且
至少部分地通过以下步骤来控制在哪一或多个存储器层级中存储所述第二数据:
在所述当前时间与所述第二数据的所述下一所预测目标时间之间的所述持续时间小于与所述第一存储器层级相关联的所述较低持续时间阈值时,指挥所述存储器系统将所述第二数据的实例从所述当前存储器层级复制到由所述第一一或多个高速缓冲存储器实施的所述第一存储器层级中;
在所述当前时间与所述第二数据的所述下一所预测目标时间之间的所述持续时间小于与所述第二存储器层级相关联的所述较高持续时间阈值且不小于与所述当前存储器层级相关联的所述当前持续时间阈值时,指挥所述存储器系统将所述第二数据的所述实例从所述当前存储器复制到由所述第一存储器阵列实施的所述第二存储器层级中;且
在所述当前时间与所述第二数据的所述下一所预测目标时间之间的所述持续时间小于与所述当前存储器层级相关联的所述当前持续时间阈值且不小于与所述第一存储器层级相关联的所述较低持续时间阈值时,指挥所述存储器系统维持将所述第二数据存储在所述当前存储器层级中。


6.根据权利要求4所述的设备,其中所述一或多个存储器控制器经配置以:
确定先前存储在所述第一存储器阵列中的数据对象,其中所述数据对象包括所述第三数据及上下文元数据,所述上下文元数据指示所述第三数据的所述第三上下文;
至少部分地通过以下方式来确定所述所预测数据存取型式:至少部分地基于所述读取存储器存取请求中所指示的所述第二数据的所述第二上下文、所述数据对象中所指示的所述第三数据的所述第三上下文、所述数据存取信息或其任何组合来确定先前存储在所述存储器系统中的所述第三数据的下一所预测目标时间;
确定当前时间与所述第三数据的所述下一所预测目标时间之间的持续时间是否小于与所述存储器系统中存储所述第三数据的当前存储器层级相关联的当前持续时间阈值;
在所述当前时间与所述第三数据的所述下一所预测目标时间之间的所述持续时间小于所述当前持续时间阈值且所述当前存储器层级不是实施在所述存储器系统中的所述多个分级存储器层级中的最低存储器层级时,确定所述持续时间是否小于与所述第一存储器层级相关联的较低持续时间阈值;
在所述当前时间与所述第三数据的所述下一所预测目标时间之间的所述持续时间不小于所述当前持续时间阈值且所述当前存储器层级不是实施在所述存储器系统中的所述多个分级存储器层级中的最高存储器层级时,确定所述持续时间是否小于与所述第二存储器层级相关联的较高持续时间阈值;且
至少部分地通过以下步骤来控制在哪一或多个存储器层级中存储所述第三数据:
在所述当前时间与所述第三数据的所述下一所预测目标时间之间的所述持续时间小于与所述第一存储器层级相关联的所述较低持续时间阈值时,指挥所述存储器系统将所述第三数据的实例从所述当前存储器层级复制到由所述第一一或多个高速缓冲存储器实施的所述第一存储器层级中;
在所述当前时间与所述第三数据的所述下一所预测目标时间之间的所述持续时间小于与所述第二存储器层级相关联的所述较高持续时间阈值且不小于与所述当前存储器层级相关联的所述当前持续时间阈值时,指挥所述存储器系统将所述第三数据的所述实例从所述当前存储器层级复制到由所述第一存储器阵列实施的所述第二存储器层级中;且
在所述当前时间与所述第三数据的所述下一所预测目标时间之间的所述持续时间小于与所述当前存储器层级相关联的所述当前持续时间阈值且不小于与所述第一存储器层级相关联的所述较低持续时间阈值时,指挥所述存储器系统维持将所述第三数据存储在所述当前存储器层级中。


7.根据权利要求1所述的设备,其中所述一或多个存储器控制器包括机器学习块,所述机器学习块经配置以至少部分地基于指示一或多个先前数据存取型式的输入参数来确定指示预期在所述即将到来的控制时程期间出现的所述所预测数据存取型式的输出参数。


8.根据权利要求7所述的设备,其中:
所述机器学习块包括神经网络;
所述输出参数包括所述第一数据的第一所预测的下一目标时间、所述第二数据的第二所预测的下一目标时间、下一目标数据的预测或其任何组合;且
所述输入参数包括识别所述第一数据的第一块识别符、识别所述第二数据的第二块识别符、所述第一数据的所述第一上下文、所述第二数据的所述第二上下文、与所述第一数据相关联的数据存取信息、与所述第二数据相关联的数据存取信息、先前所预测数据存取型式与对应的实际数据存取型式之间的预测误差或其任何组合。


9.根据权利要求1所述的设备,其中所述存储器系统包括耦合在存储器总线的处理器侧上的第一部分,其中所述存储器系统的所述第一部分包括:
所述第一一或多个高速缓冲存储器,其经配置以实施所述多个分级存储器层级中的所述第一存储器层级;
第二一或多个高速缓冲存储器,其经配置以实施高于所述第一存储器层级且低于由所述第一存储器阵列实施的所述第二存储器层级的第一中间存储器层级;及
第一存储器控制器,其经配置以至少部分地通过控制是将数据存储在由所述第一一或多个高速缓冲存储器实施的所述第一存储器层级中、存储在由所述第二一或多个高速缓冲存储器实施的所述第一中间存储器层级中还是存储在这两者中来预测性地控制所述存储器系统的所述第一部分中的数据存储。


10.根据权利要求9所述的设备,其中:
所述存储器系统的所述第一部分包括第三一或多个高速缓冲存储器,所述第三一或多个高速缓冲存储器经配置以实施高于所述第一中间存储器层级且低于由所述第一存储器阵列实施的所述第二存储器层级的第二中间存储器层级;且
所述第一存储器控制器经配置以至少部分地通过控制是将数据存储在由所述第一一或多个高速缓冲存储器实施的所述第一存储器层级中、存储在由所述第二一或多个高速缓冲存储器实施的所述第一中间存储器层级中、存储在由所述第三一或多个高速缓冲存储器实施的所述第二中间存储器层级中还是存储在其任何组合中来预测性地控制所述存储器系统的所述第一部分中的数据存储。


11.根据权利要求9所述的设备,其中所述存储器系统包括耦合在所述存储器总线的存储器侧上的第二部分,其中所述存储器系统的所述第二部分包括:
所述第一存储器阵列,其经配置以实施所述多个分级存储器层级中的所述第二存储器层级;
第二存储器阵列,其经配置以实施高于实施在所述存储器系统的所述第一部分中的所述第一中间存储器层级且低于由所述第一存储器阵列实施的所述第二存储器层级的第二中间存储器层级;及
第二存储器控制器,其经配置以至少部分地通过控制是将数据存储在由所述第一存储器阵列实施的所述第二存储器层级中、存储在由所述第二存储器阵列实施的所述第二中间存储器层级中还是存储在这两者中来预测性地控制所述存储器系统的所述第二部分中的数据存储。


12.根据权利要求11所述的设备,其中:
所述第一存储器阵列包括非易失性存储器阵列;且
所述第二存储器阵列包括易失性存储器阵列。


13.根据权利要求11所述的设备,其中:
所述存储器系统的所述第二部分包括第三一或多个高速缓冲存储器,所述第三一或多个高速缓冲存储器经配置以实施高于实施在所述存储器系统的所述第一部分中的所述第一中间存储器层级且低于由所述第二存储器阵列实施的第二中间存储器层级的第三中间存储器层级;且
所述第二存储器控制器经配置以通过控制是将数据存储在由所述第一存储器阵列实施的所述第二存储器层级中、存储在由所述第二存储器阵列实施的所述第二中间存储器层级中、存储在由所述第三一或多个高速缓冲存储器实施的所述第三中间存储器层级中还是存储在其任何组合中来预测性地控制所述存储器系统的所述第二部分中的数据存储。


14.根据权利要求13所述的设备,其中:
实施在所述存储器系统的所述第一部分中的所述第一一或多个高速缓冲存储器及所述第二一或多个高速缓冲存储器包括静态随机存取存储器;且
实施在所述存储器系统的所述第二部分中的所述第三一或多个高速缓冲存储器包括动态随机存取存储器。


15.根据权利要求1所述的设备,其包括:
中央处理单元,其中所述中央处理单元包括与所述第一一或多个高速缓冲存储器集成在一起的所述处理电路系统;及
一或多个存储器装置,其包括经组织以实施所述第一存储器阵列的多个存储器单元。


16.一种用于操作存储器系统的方法,其包括:
使用一或多个存储器控制器来随写入存储器存取请求一起接收将存储在所述存储器系统中的第一数据块,所述写入存储器存取请求指示与所述第一数据块相关联的第一一或多个上下文识别符;
使用所述一或多个存储器控制器至少部分地基于...

【专利技术属性】
技术研发人员:A·科尔日
申请(专利权)人:美光科技公司
类型:发明
国别省市:美国;US

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1