大内存资源池的单接口驱动的动态内存/存储容量扩展器制造技术

公开了一种装置，其包括：主机；处理器；内存池化装置，其电连接到所述处理器；以及计算机快速链接(CXL)动态内存容量扩展装置(DMCED)，其中所述CXL DMCED直接电连接到所述内存池化装置，并且所述内存池化装置中的内存容量或存储容量中的至少一个配置成在保持所述装置的有效功率状态时进行增减。述装置的有效功率状态时进行增减。述装置的有效功率状态时进行增减。

【技术实现步骤摘要】
大内存资源池的单接口驱动的动态内存/存储容量扩展器
[0001]相关申请的交叉引用
[0002]本申请是基于并要求于2022年3月10日在美国专利商标局中提交的美国临时申请序列号63/318,532的优先权，所述专利申请的内容通过引用并入本文。


[0003]本公开一般涉及数据存储，并且更具体地，涉及用于内存池以及内存加存储池的具有动态内存扩展能力的装置。

技术介绍

[0004]服务器中基于双倍数据速率(DDR)的内存扩展取决于系统电力循环，并且不支持动态内存扩展。换句话说，关闭系统电源，添加内存，然后重新打开系统，以便扩展内存。
[0005]特别地，高性能计算(HPC)和未来数据中心(DC)环境极有可能获得此种利用大数据工作负载的能力，诸如人工智能(AI)或数据库(DB)大数据分析。
[0006]已经引入了被称为计算快速链接(CXL)的新技术，并且可以创建大规模内存/存储池作为远内存/存储池，不包括DDR基础。
[0007]第五代(5G)/物联网(IoT)/自动驾驶汽车/边缘计算的AI/大数据分析的HPC和未来DC工作负载需要大型内存资源池，其具有动态内存扩展能力，以便加速处理大型数据集(例如，AI/DB工作负载的内存驱动处理)。然而，当前基于DDR接口的内存扩展在动态内存扩展能力方面是有缺陷的，因为它至少需要电力循环。
[0008]此外，CXL接口已经被引入作为内存扩展的方法，但是到目前为止还没有实现有效的内存池化解决方案。
[0009]特别地，可能难以为DDR技术提供动态容量扩展。此外，外围部件互连快速(PCIe)可以用于实现成功的存储池化解决方案。
[0010]未来DC工作负载可能需要大型内存/存储数据高速缓存来加速(例如，AI/大数据分析)，而传统的内存扩展方法则基于DDR接口。基于DDR接口的内存扩展已经面临转折点，并且作为替代解决方案，CXL已经推出了基于串行接口的内存扩展。
[0011]在以模块化、灵活和可组合的方式进行内存资源扩展方面，HPC和未来的DC行业一直受到限制。该行业一直在为数据存储领域的动态存储扩展提供解决方案，诸如非易失性内存高速(NVMe)和固态硬盘(SSD)。与存储不同，内存使用在动态扩展内存容量方面面临限制。CXL串行接口技术为克服这一限制提供了一种可能的解决方案，但到目前为止，这样做还很有限。
[0012]因此，本领域需要一种基于CXL接口的内存扩展解决方案，其增加装置或服务器中的内存容量，而无需对装置或服务器进行电力循环。

技术实现思路

[0013]本公开是为了至少解决上述问题和/或缺点，并且至少提供下述优点。
[0014]因此，本公开的一个方面是为仅内存(memory only)和内存加存储池(memory plus storage pooling)提供动态容量扩展能力。
[0015]本公开的另一个方面是提供一种新的机制，其用于在系统启动之外的时间以任意的系统内存大小进行动态内存扩展。
[0016]本公开的又一个方面是提供一种方法和设备，其解决了内存使用限制并为HPC和未来的DC业务重新设计了内存使用模型，诸如基于大规模内存/内存加存储资源池的核心/边缘DC。
[0017]本公开的另一个方面是通过利用诸如CXL的最新技术，提供具有深度动态容量扩展能力的内存和存储，而无需电力循环，即同时保持有效功率状态。
[0018]本公开的又一个方面是提供有效的方式来按比例增加/扩大内存/存储池，并基于模块化、灵活和可组合的方法为分解的内存/存储池化提供新的特征和DC业务机会。
[0019]根据本公开的一个方面，一种装置包括主机、处理器、电连接到处理器的内存池化装置以及计算快速链接(CXL)动态内存容量扩展装置(DMCED)，其中CXLDMCED直接电连接到内存池化装置。
[0020]根据本公开的一个方面，在主机代理和目标代理之间的通信方法包括：由主机代理启动添加容量功能；由目标代理更新主机代理和目标代理之间的配置；由目标代理将更新的配置发送到主机代理；在主机代理和目标代理之间执行动态内存容量扩展过程；以及在主机代理和目标代理之间执行确认过程，该确认过程包括add_complete(添加完成)和/或release_complete(释放完成)通信。
[0021]根据本公开的一个方面，通过布置在主机代理和目标代理之间的交换结构(SF)连接的主机代理和目标代理之间的通信方法包括：由主机代理发起添加容量功能；由布置在SF中的主机管理的装置内存(HDM)解码器向目标代理发送更新的配置；由目标代理将更新的配置发送到主机代理；在主机代理和目标代理之间执行动态内存容量扩展过程；以及在主机代理和目标代理之间执行确认过程，该确认过程包括add_complete和/或release_complete通信。
附图说明
[0022]本公开的某些实施例的以上和其他方面、特征和优点将从结合附图进行的以下详细描述变得更明显，其中：
[0023]图1示出了根据实施例的动态内存容量扩展装置(DMCED)的架构100；
[0024]图2示出了根据实施例的连接到图1中的DMCED105的主机120的详细架构200；
[0025]图3示出了根据实施例的连接到图1中的DMCED105的主机130的详细架构300；
[0026]图4示出了根据实施例的动态内存扩展装置400，其包括在没有SF情况下的装置附接/分离和添加/释放能力；
[0027]图5示出了根据实施例的动态内存扩展装置500，其包括在SF情况下的装置附接/分离和添加/释放能力；
[0028]图6示出了根据实施例的动态内存加存储扩展装置600，其包括在没有SF情况下的装置附接/分离和添加/释放能力；
[0029]图7示出了根据实施例的动态内存加存储扩展装置700，其包括在SF情况下的装置
附接/分离和添加/释放能力；以及
[0030]图8是根据实施例的网络环境800中的电子装置的框图。
具体实施方式
[0031]在下文中，将参考附图描述本公开的实施例。然而，本公开的实施例不限于特定的实施例，并且应当被解释为包括本公开的所有修改、改变、等同装置和方法，和/或替代实施例。为了清楚和简明起见，将省略对众所周知的功能和/或配置的描述。
[0032]本文使用的表述“具有”、“可以具有”、“包括”和“可以包括”表示相应特征的存在，诸如数值、功能、操作或部分，并且不排除附加特征的存在。本文中所使用的表述“A或B”、“A和/或B中的至少一个”或者“A和/或B中的一个或多个”可以包括与其一起枚举的项目的所有可能组合。例如，“A或B”、“A和B中的至少一者”或“A或B中的至少一个”意指(1)包括至少一个A，(2)包括至少一个B，或(3)包括至少一个A和至少一个B两者。
[0033]本文中所使用的诸如“第一”和“第二”的术语可以修饰各种元件，而不管相应元本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种装置，包括：主机；处理器；内存池化装置,其电连接到所述处理器；以及计算机快速链接(CXL)动态内存容量扩展装置(DMCED)，其中CXL DMCED直接电连接到所述内存池化装置。2.根据权利要求1所述的装置，其中所述处理器安装在所述主机中，以及其中所述内存池化装置中的内存容量或存储容量中的至少一个配置成在保持所述装置的有效功率状态时进行增减。3.根据权利要求2所述的装置，其中所述内存池化装置和所述CXL DMCED安装在所述主机中，并通过CXL电连接到所述处理器。4.根据权利要求2所述的装置，其中所述内存池化装置和所述CXL DMCED布置在所述主机的外部，并且通过CXL电连接到所述处理器。5.根据权利要求2所述的装置，还包括：交换结构(SF)，其布置在所述主机和所述内存池化装置以及所述CXL DMCED之间。6.根据权利要求5所述的装置，其中SF在第一端通过第一CXL电连接到所述主机，并且在与所述第一端相对的第二端通过第二CXL电连接到所述内存池化装置和所述CXL DMCED。7.根据权利要求6所述的装置，还包括：主机管理的装置内存(HDM)解码器，其布置在所述SF中，其中HDM解码器配置成使得所述主机能够访问所述内存池化装置中的内存区域。8.根据权利要求3所述的装置，其中所述处理器包括内存管理器和主机CXL代理，其中所述CXL DMCED包括目标CXL代理，以及其中所述内存池化装置配置为仅内存装置或内存加存储装置。9.根据权利要求8所述的装置，其中，当所述内存池化装置配置为仅内存装置时，所述内存容量配置成通过所述主机CXL代理和所述目标CXL代理之间的set/get通信来增加或减少。10.根据权利要求8所述的装置，其中，当所述内存池化装置配置为所述内存加存储装置时，所述内存容量和所述存储容量配置成通过所述主机CXL代理和所述目标CXL代理之间的set/get通信来增加或减少。11.根据权利要求8所述的装置，其中所述装置配置成在所述主机CXL代理和所述目标CXL代理之间执行装置附接或装置分离功能。12.根据权利要求6所述的装置，其中所述处理器包括内存管理器和主机CXL代理，
其中所述CXL...

【专利技术属性】
技术研发人员：B，
申请(专利权)人：三星电子株式会社，
类型：发明
国别省市：