基于混合存储器立方体系统互连目录的高速缓冲存储器一致性方法技术方案

技术编号:14698131 阅读:191 留言:0更新日期:2017-02-24 04:01
一种系统包含多个主机处理器及经配置为用于所述主机处理器的分布式共享存储器的多个混合存储器立方体HMC装置。HMC装置包含:多个集成电路存储器裸片,其包含布置于第二存储器裸片的顶部上的至少第一存储器裸片,且所述存储器裸片的存储器的至少一部分经映射以包含存储器一致性目录的至少一部分;及逻辑库裸片,其包含:至少一个存储器控制器,其经配置以管理至少一个第二装置对所述多个存储器裸片的存储器的三维3D存取;及逻辑电路,其经配置以针对存储于所述多个存储器裸片的所述存储器中的数据而实施存储器一致性协议。

【技术实现步骤摘要】
【国外来华专利技术】相关申请案此美国专利申请案主张2014年5月8日提出申请的第61/990,207号美国临时申请案的优先权权益,所述美国临时申请案的内容以全文引用的方式并入。
技术介绍
多处理器系统可包含允许一个以上处理器对相同数据执行操作的共享存储器。对共享存储器的存取可为缓慢的且可导致系统等待时间。为改进存储器存取时间,多处理器共享存储器系统可包含相对较小但较快的存取高速缓冲存储器。高速缓冲存储器存储可由处理器频繁存取的数据的副本。为维持经高速缓存数据的正确性,遵循高速缓冲存储器一致性协议。高速缓冲存储器一致性协议对通过处理器对经高速缓存数据的存取施加规则以确保尽管存在数据的多个副本但数据跨越所有处理器均为正确的。然而,高速缓冲存储器一致性协议可消耗先前系统带宽且产生针对数据存取的不均匀等待时间。本专利技术专利技术者已认识到需要多处理器共享存储器系统中的经改进数据管理。附图说明图1图解说明可用以实践本专利技术的一些实施例的混合存储器立方体的表示。图2是图解说明可用以实践本专利技术的一些实施例的混合存储器立方体的四分之一的框图。图3展示可用以实践本专利技术的一些实施例的混合存储器立方体的四个可能装置拓扑的框图。图4展示可用以实践本专利技术的一些实施例的一致性目录存储器格式的实例。图5展示可用以实践本专利技术的一些实施例的用HMC装置实施的计算机系统的实例的框图。图6展示操作计算机系统的方法的流程图。具体实施方式在本专利技术的实例性实施例的以下详细说明中,以图式及图解方式而参考本专利技术的特定实例性实施例。充分详细地描述这些实例以使得所属领域的技术人员能够实践本专利技术,且所述实例用于图解说明本专利技术可如何应用于各种目的或实施例。存在本专利技术的其它实施例且所述实施例在本专利技术的范围内,且可在不背离本专利技术的标的或范围的情况下做出逻辑、机械、电及其它改变。本文中所描述的本专利技术的各种实施例的特征或限制虽然对其中并入所述特征或限制的实例性实施例为必要的,但其并不限制本专利技术的其它实施例或作为整体的本专利技术,且对本专利技术的任何参考(其元件、操作及应用)并不限制作为整体的本专利技术,而是仅用于定义这些实例性实施例。因此,以下详细说明并不限制本专利技术的各种实施例的范围,所述范围仅由所附权利要求书界定。在常规计算机系统中,存储器以二维方式组织成行及列。为改进存储器存取等待时间做出的努力包含开发具有高带宽接口的双数据速率类型三(DDR3)或DDR4。DDR3及DDR4使用传统行/列方法。图1图解说明混合存储器立方体105(HMC)的表示。HMC通过堆叠集成电路(IC)存储器裸片110且使用实现在IC裸片的顶部及底部两者上的存取的穿硅导通体(TSV)结构(未展示)来使裸片互连而包含第三维度。TSV制造技术实现多个裸片层的互连,以便构造三维裸片。使多个裸片层互连的此能力准许建造具有存储器存储层与一或多个逻辑层的组合的存储器装置。以此方式,所述装置在单个封装中提供物理存储器存储及逻辑存储器事务处理。图1中所展示的布置是用以图解说明概念且未必表示实际裸片布局。HMC(例如,如混合存储器立方体规范版本1.0中所规定)可提供具有高达每装置320GB/s的可用带宽容量的非常紧凑且功率高效封装。HMC装置经由分层及平行设计方法而能够具有此带宽。装置层次跨越逻辑层而垂直地发生且硬件平行跨越给定裸片层而发生。在HMC内,存储器经组织成存储库。每一存储库120使用穿硅导通体在裸片内垂直地横跨存储器层中的每一者。在图1的经简化实例中,HMC经组织成16个存储库,其中每一存储库具有逻辑库裸片层115或逻辑库。图2是图解说明HMC205的四分之一的框图。展示HMC的四个存储库,其中每一存储库220包含多个存储器层。逻辑库层215包含多个组件。举例来说,每一存储库在逻辑库中具有管理用于存储库的所有存储器参考操作的存储器控制器。存储器控制器提供对3D存储层的灵活存取。3D分层方法准许存储器事务不仅跨越目标存储阵列内的存储体,且亦跨越平行存储阵列而平行地存在。逻辑库层215可包含用以实施所描述的功能的一或多个处理器,且HMC可为存储器中处理器(PIM)装置。逻辑库层215提供对HMC装置的存取的外部链路以及内部路由及事务逻辑两者。外部I/O链路由四个或八个逻辑链路提供。每一链路可包含十六个或八个串行I/O或SERDES双向链路的群组。四个链路装置具有在10Gbps、12.5Gbps及15Gbps下操作的能力。八个链路装置具有在10Gbps下操作的能力。在内部,链路附接到路由逻辑以便引导逻辑装置处的控制每一垂直存储器存储单元的事务。在图2的实例中,路由逻辑包含纵横切换逻辑。HMC链路结构支持将装置附接到主机(处理器)或其它HMC装置两者的能力。链结(chaining)的此概念准许构造需要比单个装置大的容量而不扰动链路结构及经包化事务协议的存储器子系统。链路可以众多拓扑配置为主机装置链路或直通链路。图3展示基于基底四链路HMC配置的四个可能装置拓扑的框图。HMC存储器装置305可以传统网络拓扑(例如网状、环面(torus)或纵横)配置。将多个HMC装置链结在一起增加可用于主机的总存储器容量。返回到图2,针对存储库的逻辑库层类似于针对每一独立存储库的DIMM控制器单元。在图2的实例中,存储库逻辑块225及其相应存储库存储单元220可经组织成四重单元。每一四重单元表示四个存储库单元。每一四重单元与最接近物理链路块松散地相关联。以此方式,主机装置具有以下能力:通过逻辑上将请求包发送到其相关联四重单元物理上最接近于所需存储库的链路而使HMC装置的整个逻辑库层的等待时间最小化。一旦在目标存储器存储库内,存储器存储区便可分解成传统概念的存储体及动态随机存取存储器(DRAM)。穿过经堆叠存储器层的垂直存取类似于选择适当存储器存储体。下部存储体可配置于下部裸片层中,而垂直上升(verticalascension)选择后续存储体。一旦在存储体层内,便可使用行及列以传统方式组织DRAM。存储库控制器将DRAM分解成各自寻址16个字节的1兆位(1Mb)块。针对每一列提取,可以32个字节来执行到目标存储体的读取或写入请求。针对多主机多HMC系统,使用经包化格式来执行主机装置与HMC装置之间的带内通信。此经包化格式可包含三个主要包分类:请求包、响应包及流量控制包。包可经配置为单个16字节流量单元或FLIT的倍数。最大包大小含有9个FLIT或144个字节。最小16字节(一个FLIT)包含有包标头及包尾。用于所有存储器有效负载大小的存储器读取请求包可仅需要包标头、包尾及相应物理存储器地址。因此,读取请求可使用单个FLIT配置。然而,写入请求及原子请求包也含有分别用于写入及读取-修改-写入操作的所需输入数据。因此,这些请求类型具有2个FLIT到9个FLIT的包宽度。HMC系统实施方案可具有多个包重新排序点。经指定用于辅助装置的到达包可通过等待本地存储库存取的那些辅助装置。本地存储库也可将已排列包重新排序以便最高效地利用去往及来自相应存储库存储体的带宽。然而,给定HMC实施方案中呈现的重新排序点维持包流在存储库内从特定链路到特定存储体的次序。此确保后续接着存储器读取请求的存储器写入请求递送正确及确定性存储器行为。如先前所解释,HMC提供高带宽本文档来自技高网...
<a href="http://www.xjishu.com/zhuanli/55/201580031855.html" title="基于混合存储器立方体系统互连目录的高速缓冲存储器一致性方法原文来自X技术">基于混合存储器立方体系统互连目录的高速缓冲存储器一致性方法</a>

【技术保护点】
一种计算系统,其包括:多个主机处理器;及多个混合存储器立方体HMC装置,其经配置为用于所述主机处理器的分布式共享存储器,HMC装置包含:多个集成电路存储器裸片,其包含布置于第二存储器裸片的顶部上的至少第一存储器裸片,且所述存储器裸片的存储器的至少一部分经映射以包含存储器一致性目录的至少一部分;及逻辑库裸片,所述逻辑库裸片包含:至少一个存储器控制器,其经配置以管理至少一个第二装置对所述多个存储器裸片的存储器的三维3D存取;及逻辑电路,其经配置以针对存储于所述多个存储器裸片的所述存储器中的数据而实施存储器一致性协议。

【技术特征摘要】
【国外来华专利技术】2014.05.08 US 61/990,2071.一种计算系统,其包括:多个主机处理器;及多个混合存储器立方体HMC装置,其经配置为用于所述主机处理器的分布式共享存储器,HMC装置包含:多个集成电路存储器裸片,其包含布置于第二存储器裸片的顶部上的至少第一存储器裸片,且所述存储器裸片的存储器的至少一部分经映射以包含存储器一致性目录的至少一部分;及逻辑库裸片,所述逻辑库裸片包含:至少一个存储器控制器,其经配置以管理至少一个第二装置对所述多个存储器裸片的存储器的三维3D存取;及逻辑电路,其经配置以针对存储于所述多个存储器裸片的所述存储器中的数据而实施存储器一致性协议。2.根据权利要求1所述的系统,其中所述存储器裸片的存储器经映射为计算系统的共享存储器,且HMC装置的所述逻辑电路经配置以使用输入/输出I/O协议来管理所述主机处理器与所述共享存储器之间的信息的通信且作为所述I/O协议的部分而实施所述存储器一致性协议。3.根据权利要求1所述的系统,其中HMC装置的所述逻辑电路经配置以作为用以存取所述存储器裸片的I/O协议的部分而传递经包化信息且将存储器一致性状态信息与所述经包化信息包含在一起。4.根据权利要求3所述的系统,其中HMC装置的所述逻辑电路经配置以作为所述经包化信息的部分而传递地址信息且将存储器一致性状态信息与所述地址信息包含在一起。5.根据权利要求1所述的系统,其中HMC装置的所述逻辑电路经配置以确定所述存储器裸片的存储器字的经修改状态信息、共享状态信息及无效状态信息且与所述存储器裸片的所述存储器字相关联地存储所述状态信息。6.根据权利要求1所述的系统,其中HMC装置的所述逻辑电路经配置以确定所述存储器裸片的存储器字的专属权状态信息及所有权状态信息中的至少一者且与共享存储器数据字相关联地存储所述状态信息。7.根据权利要求1所述的系统,其包含经配置为集线器HMC装置的至少一个HMC装置,其中所述集线器HMC装置的逻辑电路将路由信息添加到经包化消息,且接收HMC装置的所述逻辑电路使用源信息来确定存储器一致性状态信息。8.根据权利要求1所述的系统,其中所述HMC装置的所述逻辑电路经配置以在接收到对存储器字的专属存取的请求后即刻起始从所述HMC装置到具有所述存储器字的所有权的处理器的请求包。9.根据权利要求1所述的系统,其中HMC的所述逻辑库裸片的所述存储器控制器经配置以管理至少一个处理器及另一HMC装置对所述存储器裸片的存储器的3D存取。10.根据权利要求1所述的系统,其中HMC装置的所述存储器裸片包含布置为多个存储库的存储器,且所述逻辑库裸片包含用于所述存储器裸片的每一存储库的存储器控制器。11.根据权利要求1到10中任一权利要求所述的系统,其中所述多个主机处理器的所述处理器为芯片上系统SoC处理器。12.一种混合存储器立方体HMC装置,其包含:多个集成电路存储器裸片,其包含布置于第二存储器裸片的顶部上的至少第一存储器裸片,且所述存储器裸片的存储器的至少一部分经映射以包含存储器一致性目录的至少一部分;及逻辑库裸片,所述逻辑库裸片包含:至少一个存储器控制器,其经配置以管理至少一个第二装置对所述多个存储...

【专利技术属性】
技术研发人员:约翰·莱德尔理查德·C·墨菲
申请(专利权)人:美光科技公司
类型:发明
国别省市:美国;US

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1