基于缓存一致性的互连的近数据处理加速器制造技术

公开了存储器系统(115)。存储器系统(115)可以包括第一缓存一致性互连存储器模块(310)和第二缓存一致性互连存储器模块(310)。缓存一致性互连交换机(305)可以将第一缓存一致性互连存储器模块(310)、第二缓存一致性互连存储器模块(310)和处理器(110)连接。处理元件(315)可以处理存储在第一缓存一致性互连存储器模块(310)和第二缓存一致性互连存储器模块(310)中的至少一个上的数据。(310)中的至少一个上的数据。(310)中的至少一个上的数据。

【技术实现步骤摘要】
基于缓存一致性的互连的近数据处理加速器
[0001]相关申请数据
[0002]本申请要求于2022年3月3日提交的美国临时专利申请序列号63/316,399的权益，该申请出于所有目的通过引用并入本文。


[0003]本公开一般涉及存储器系统，更具体地，涉及包括用于近数据(near
‑
data)处理的加速器的存储器系统。

技术介绍

[0004]一些问题，诸如基因组学(genomics)，可能涉及大量数据。当数据存储在存储器系统中时，将数据从存储器移动到处理器来处理数据可能经历瓶颈。此外，使用处理器来处理数据可能阻止处理器执行其他操作。
[0005]仍然需要对在不将数据移动到处理器的情况下处理存储器系统中的数据的方法。

技术实现思路

[0006]本公开的实施例可以包括存储器系统。计算快速链接(CXL)存储器模块可以经由CXL交换机连接到主机处理器。存储器系统中的处理元件可以处理存储在CXL存储器模块中的至少一个上的数据。
附图说明
[0007]下面描述的附图是可以如何实现本公开的实施例的示例，并且不旨在限制本公开的实施例。本公开的单独的实施例可以包括在特定附图中未示出的元素和/或可以省略在特定附图中示出的元素。附图旨在提供说明，可能不按比例。
[0008]图1示出了根据本公开的实施例的被配置为在存储器系统中执行近数据处理的机器。
[0009]图2示出了根据本公开的实施例的图1的机器的细节。
[0010]图3A示出了根据本公开的实施例的图1的存储器系统的细节。
[0011]图3B示出了根据本公开的其它实施例的图1的存储器系统的细节。
[0012]图4A示出了根据本公开的实施例的在图3A的存储器系统中可以如何访问数据。
[0013]图4B示出了根据本公开的实施例的在图3B的存储器系统中可以如何访问数据。
[0014]图5示出了根据本公开的实施例的图4A至图4B的加速器的细节。
[0015]图6示出了根据本公开的实施例的用于在图3A至图3B的存储器系统中执行近数据处理的示例进程的流程图。
[0016]图7示出了根据本公开的实施例的用于在图3A至图3B的存储器系统中执行近数据处理的示例进程的可替代流程图。
[0017]图8示出了根据本公开的实施例的用于从图3A至图3B的存储器系统中的存储器模
块访问数据的示例进程的流程图。
具体实施方式
[0018]现在将详细参考本公开的实施例，其示例在附图中示出。在以下详细描述中，阐述了许多具体细节，以使得能够彻底理解本公开。然而，应该理解，本领域普通技术人员可以在没有这些具体细节的情况下实践本公开。在其他实例中，没有详细描述公知的方法、过程、组件、电路和网络，以免不必要地模糊实施例的各个方面。
[0019]将理解，尽管术语第一、第二等可以在本文中用来描述各种元素，但是这些元素不应该被这些术语所限制。这些术语仅用于区分一个元素和另一个元素。例如，在不脱离本公开的范围的情况下，第一模块可以被称为第二模块，并且类似地，第二模块可以被称为第一模块。
[0020]本文公开的描述中使用的术语仅出于描述特定实施例的目的，并不旨在限制本公开。如在本公开的描述和所附权利要求中所使用的，单数形式“一(a)”、“一个(an)”和“所述”也旨在包括复数形式，除非上下文另有清楚地指示。还应该理解，本文使用的术语“和/或”指的是并且涵盖一个或多个相关联的所列出的项目的任何和所有可能的组合。还将理解，术语“包括”和/或“包含”在本说明书中使用时，指定所陈述的特征、整数、步骤、操作、元素和/或组件的存在，但不排除一个或多个其他特征、整数、步骤、操作、元素、组件和/或其群组(group)的存在或添加。附图的组件和特征不一定按比例绘制。
[0021]基因组学分析越来越重要。基因组学分析可以用于开发精确的药物，设计针对特定状况的药剂，研究进化，改进作物以包括特定的表型，执行法医分析，或设计基因疗法。
[0022]但是基因组学分析可能涉及处理大量的数据。要处理的生物数据量预期将比存储在互联网上的天文数据或视频数据大一个数量级。该数据可以存储在存储器系统中。
[0023]使用主机处理器来处理数据可能是低效的，因为重要的数据可能被移动到存储器中以支持数据的主机处理，这可能影响由主机处理器正在执行的其他操作。近数据加速是另一种可能性。但是近数据加速也可能涉及通信和编制(orchestration)延迟。在两个情况中，存储器访问和带宽可能成为执行基因组学分析的瓶颈。
[0024]本公开的实施例可以在存储器系统内执行近数据处理。处理元件可以位于例如存储器模块内。使用计算快速链接(CXL)协议或一些其他缓存一致性互连协议，可以从存储器模块访问数据。CXL或其他缓存一致性互连协议可以以比可以用于向主机处理器传送数据更高的带宽提供数据。处理元件可以被设计成执行特定的近数据处理任务，因此可以比执行命令的通用处理器更有效地执行这些任务。例如，在基因组学分析中，只有四种碱基(base)：腺嘌呤(A)、胞嘧啶(C)、鸟嘌呤(G)和胸腺嘧啶(T)。可以仅使用2位数据来区分这四个碱基，因此可以使用两位算术，这可能比使用32位或64位处理器来执行算术更有效。
[0025]本公开的实施例可以扩展到除了基因组学分析之外的使用近似数据处理来解决的问题：例如，图形处理或机器学习。
[0026]本公开的实施例可以支持存储器扩展，即使存储器模块本身不包括近数据处理。
[0027]图1示出了根据本公开的实施例的被配置为在存储器系统中执行近数据处理的机器。在图1中，机器105也可以称为主机或系统，可以包括处理器110、存储器系统115和存储设备120。处理器110可以是各种处理器。(为了便于说明，处理器110以及下面讨论的其他组
件被示出在机器外部：本公开的实施例可以在机器内包括这些组件)。虽然图1示出了单个处理器110，但是机器105可以包括任何数量的处理器，每个处理器可以是单核或多核处理器，每个处理器可以实现精简指令集计算机(RISC)架构或复杂指令集计算机(CISC)架构(以及其他可能性)，并且可以以任何期望的组合混合。
[0028]处理器110可以耦合到存储器系统115。存储器系统115可以是各种存储器，诸如闪存、动态随机存取存储器(DRAM)、静态随机存取存储器(SRAM)、永久随机存取存储器、铁电随机存取存储器(FRAM)或非易失性随机存取存储器(NVRAM)，诸如磁阻随机存取存储器(MRAM)等。根据所期望的，存储器系统115可以是易失性或非易失性存储器。存储器系统115也可以是不同存储器类型的任何期望的组合，并且可以由存储器控制器125管理。存储器系统115可以用于存储可以被称为“短期”的数据：即，不期望被存储延长的时间段的数据。短期数据的示例可以包括临时文件、由应用在本地使用的数据(可能已从其他存储位置复制)等。下面参考图3A至图本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种存储器系统，包括：第一缓存一致性互连存储器模块；第二缓存一致性互连存储器模块；缓存一致性互连交换机，将第一缓存一致性互连存储器模块、第二缓存一致性互连存储器模块和处理器连接；以及处理元件，处理存储在第一缓存一致性互连存储器模块和第二缓存一致性互连存储器模块中的至少一个上的数据，其中，所述处理元件被包括在第一缓存一致性互连存储器模块中。2.根据权利要求1所述的存储器系统，其中：第一缓存一致性互连存储器模块包括第一缓存一致性互连双列直插式存储器模块DIMM；以及第二缓存一致性互连存储器模块包括第二缓存一致性互连DIMM。3.根据权利要求1所述的存储器系统，其中：第一缓存一致性互连存储器模块包括第一计算快速链接CXL存储器模块；第二缓存一致性互连存储器模块包括第二CXL存储器模块；并且所述缓存一致性互连交换机包括CXL交换机。4.根据权利要求3所述的存储器系统，还包括：第三CXL存储器模块；第四CXL存储器模块(310)；以及第二CXL交换机，将第三CXL存储器模块、第四CXL存储器模块和所述处理器连接。5.根据权利要求4所述的存储器系统，其中，所述CXL交换机被配置为与第二CXL交换机通信。6.根据权利要求3所述的存储器系统，其中，第一CXL存储器模块包括加速器，所述加速器包括处理元件。7.根据权利要求6所述的存储器系统，其中，所述加速器还包括第二处理元件。8.根据权利要求6所述的存储器系统，其中，所述加速器还包括任务调度器以为处理元件或第二处理元件调度操作。9.根据权利要求6所述的存储器系统，其中，所述加速器还包括存储器控制器以从第一CXL存储器模块或第二CXL存储器模块访问数据。10.根据权利要求6所述的存储器系统，其中，所述存储器控制器被配置为使用CXL交换机和处理器从连接到第二CXL交换机的第三CXL存储器模块访问第二数据。11.根据权利要求3所述的存储器系统，其中：第一CXL存储器模块包括第一CXL接口；第二CXL存储器模块包括第二CXL接口；以及CXL交换机使用第一CXL接口连接第一CXL存储器模块，以及使用第二CXL接口连接...

【专利技术属性】
技术研发人员：皇甫文沁，A，
申请(专利权)人：三星电子株式会社，
类型：发明
国别省市：