【技术实现步骤摘要】
技术介绍
1、现代计算和服务器设计的发展，包括但不限于生成式人工智能(ai)的并入和使用，已经极大地增加了对存储器和计算能力(本文称为“计算”)的需求。例如，机器学习模型通常需要大量的计算能力来实行、训练和使用需要存储在易于访问的存储器中的大型训练集。单一芯片设计已经不能跟上对更多存储器和计算能力这种增长的需要。
2、满足对更多存储器和计算的增长需要的一种可能方法是利用更多主要(“主机”)计算节点或芯片，但这可能变得昂贵且低效。由于这些限制，并入片外和/或外部存储器和计算能力的系统和芯片设计已经开始发展，诸如存储器扩展器和近存储器计算(nmc)，其可连接到主要主机计算节点并且随后被其利用。需要对如何并入附加的存储器和计算能力进行改进，而不需要改变(一个或多个)主要主机，并且可以是特定系统的存储器和计算能力需要定制。
技术实现思路
1、提供了一种新颖设计，包括外部、芯片外或服务器外装置，其可以提供足够的计算和数据储存能力，以满足对计算能力和/或存储器的不断增长的需求。这种设计并入了非主机节点之间的对等连接，作为菊花链拓扑中的非限制性示例，并且使能线性计算和存储器可扩展性、非常高的存储器容量和非常高的计算能力。此外，这种新颖设计可以是模块化的，并且为特定系统或主机计算节点的精确存储器和计算需要定制，而不需要在硬件或软件级别上改变主机计算节点。
2、本专利技术的某些实施例包括一种装置，该装置包括被配置成接收至少一个操作的i/o接口以及被配置成执行所接收的至少一个
3、节点集中的至少一个节点可以是存储器扩展器或近存储器计算(nmc)，该存储器扩展器被配置成提供附加的存储器以执行所接收的至少一个操作，该近存储器计算被配置成提供附加的计算能力以执行所接收的至少一个操作。
4、节点集还可以被配置成并行或联合实行所接收的至少一个操作。在一些实施例中，至少一个操作源自至少一个外部主机。在此类实施例中，至少一个外部主机可以将节点集用作单一实体。
5、i/o接口和至少一个对等接口中的一者或两者可以是pci express(pcie)接口，并且pci express(pcie)接口可利用computer express link(cxl)协议。节点集可以被配置成模块化的，并且包括节点集的节点数量和类型可以是可变的。
6、i/o接口可以被配置成将节点集耦接到至少一个主机计算节点，并且在此类实施例中，至少一个计算节点可以位于与节点集不同的芯片上。
7、包括节点集的节点的对等接口可以被配置成可移除地耦接节点集。
8、本专利技术的附加实施例包括一种用于执行计算操作的方法，该方法包括通过i/o接口接收至少一个操作，以及通过节点集执行所接收的至少一个操作。节点集中的每个节点包括至少一个对等接口和本地存储器，该对等接口被配置成连接到节点集中的另一个节点，并且传达所接收的至少一个操作，该本地存储器被配置成存储数据。
9、在此类方法中，节点集中的至少一个节点可以是存储器扩展器或近存储器计算(nmc)，该存储器扩展器被配置成提供附加的存储器以执行所接收的至少一个操作，该近存储器计算被配置成提供附加的计算能力以执行所接收的至少一个操作。节点集可以通过对等接口以菊花链拓扑的方式进行连接。
10、在选择的实施例中，方法还包括从主机计算节点发送至少一个操作。在此类实施例中，主机计算节点可以位于节点集外部的服务器上。同样在此类实施例中，方法还可以包括利用i/o接口将节点集可移除地耦接到主机计算节点的节点集，并且主机计算节点可以将节点集用作单一实体。
11、方法还可以包括基于对所接收的至少一个操作的需求，调制包括节点集的节点数量或节点类型。
12、本专利技术的其他实施例包括用于执行计算操作的装置，该装置包括用于接收至少一个操作的部件以及用于由节点集执行所接收的被配置的至少一个操作的部件，节点集中的每个节点包括用于连接到节点集中的另一节点，并且传送所接收的至少一个操作的部件。在此类实施例中，节点集中的至少一个节点可以是存储器扩展器或近存储器计算(nmc)，该存储器扩展器包括用于提供附加存储器以执行所接收的至少一个操作的部件，该近存储器计算(nmc)包括用于提供附加计算能力以执行所接收的至少一个操作的部件。
13、该装置还可包括用于可拆卸地耦接到至少一个操作源的部件。至少一个操作源可以将节点集用作单一实体。
14、该装置还可包括用于基于对所接收的至少一个操作的需求，调制包括节点集的节点的数量或类型的部件。
本文档来自技高网...【技术保护点】
1.一种装置，包括：
2.根据权利要求1所述的装置，其中所述节点集中的至少一个节点为存储器扩展器，所述存储器扩展器被配置成提供附加存储器以用于执行所接收的所述至少一个操作。
3.根据权利要求1所述的装置，其中所述节点集中的至少一个节点是近存储器计算NMC，所述近存储器计算NMC被配置成提供附加计算能力以用于执行所接收的所述至少一个操作。
4.根据权利要求1所述的装置，其中所述节点集还被配置成并行地实行所接收的所述至少一个操作。
5.根据权利要求1所述的装置，其中所述节点集通过所述对等接口以菊花链拓扑的方式进行连接。
6.根据权利要求1所述的装置，其中所述至少一个操作源自至少一个外部主机。
7.根据权利要求6所述的装置，其中所述至少一个外部主机将所述节点集用作单一实体。
8.根据权利要求1所述的装置，其中所述I/O接口中的至少一个I/O接口和所述至少一个对等接口为PCIExpress PCIe接口。
9.根据权利要求8所述的装置，其中所述PCI Express PCIe接口利用计算高速链
10.根据权利要求1所述的装置，其中所述节点集是模块化的，并且包括所述节点集的节点数量和节点类型是可变的。
11.根据权利要求1所述的装置，其中所述I/O接口被配置成将所述节点集可移除地耦接到至少一个主机计算节点。
12.根据权利要求11所述的装置，其中所述至少一个计算节点位于与所述节点集不同的芯片上。
13.根据权利要求1所述的装置，其中所述一个对等接口还被配置成可移除地耦接所述节点集。
14.根据权利要求1所述的装置，其中所述节点集联合地实行所接收的所述至少一个操作。
15.一种执行计算操作的方法，所述方法包括：
16.根据权利要求15所述的方法，其中所述节点集中的至少一个节点是存储器扩展器，所述存储器扩展器被配置成提供附加存储器以用于执行所接收的所述至少一个操作。
17.根据权利要求15所述的方法，其中所述节点集中的至少一个节点是近存储器计算NMC，所述近存储器计算NMC被配置成提供附加计算能力以用于执行所接收的所述至少一个操作。
18.根据权利要求1所述的方法，其中所述节点集通过所述对等接口以菊花链拓扑的方式进行连接。
19.根据权利要求1所述的方法，还包括从主机计算节点发送所述至少一个操作。
20.根据权利要求19所述的方法，其中所述主机计算节点位于所述节点集外部的服务器上。
21.根据权利要求19所述的方法，还包括利用所述I/O接口将所述节点集可移除地耦接到所述主机计算节点。
22.根据权利要求19所述的方法，其中所述主机计算节点将所述节点集用作单一实体。
23.根据权利要求15所述的方法，其中所述I/O接口中的至少一个I/O接口和所述至少一个对等接口为PCIExpress PCIe接口。
24.根据权利要求15所述的方法，还包括：基于对所接收的所述至少一个操作的需求，调制包括所述节点集的节点数量或节点类型。
25.一种用于执行计算操作的装置，所述装置包括：
26.根据权利要求25所述的装置，其中所述节点集中的至少一个节点为存储器扩展器，所述存储器扩展器包括用于提供附加存储器以执行所接收的所述至少一个操作的部件。
27.根据权利要求25所述的装置，其中所述节点集中的至少一个节点为近存储器计算NMC，所述近存储器计算NMC包括用于提供附加计算能力以用于执行所接收的所述至少一个操作的部件。
28.根据权利要求25所述的装置，还包括用于可移除地耦接到所述至少一个操作的源的设备。
29.根据权利要求28所述的装置，其中所述至少一个操作的所述源将所述节点集用作单一实体。
30.根据权利要求25所述的装置，还包括：用于基于对所述所接收的所述至少一个操作的需求，调制包括所述节点集的所述节点数量或节点类型的部件。
...【技术特征摘要】
1.一种装置，包括：
2.根据权利要求1所述的装置，其中所述节点集中的至少一个节点为存储器扩展器，所述存储器扩展器被配置成提供附加存储器以用于执行所接收的所述至少一个操作。
3.根据权利要求1所述的装置，其中所述节点集中的至少一个节点是近存储器计算nmc，所述近存储器计算nmc被配置成提供附加计算能力以用于执行所接收的所述至少一个操作。
4.根据权利要求1所述的装置，其中所述节点集还被配置成并行地实行所接收的所述至少一个操作。
5.根据权利要求1所述的装置，其中所述节点集通过所述对等接口以菊花链拓扑的方式进行连接。
6.根据权利要求1所述的装置，其中所述至少一个操作源自至少一个外部主机。
7.根据权利要求6所述的装置，其中所述至少一个外部主机将所述节点集用作单一实体。
8.根据权利要求1所述的装置，其中所述i/o接口中的至少一个i/o接口和所述至少一个对等接口为pciexpress pcie接口。
9.根据权利要求8所述的装置，其中所述pci express pcie接口利用计算高速链路cxl协议。
10.根据权利要求1所述的装置，其中所述节点集是模块化的，并且包括所述节点集的节点数量和节点类型是可变的。
11.根据权利要求1所述的装置，其中所述i/o接口被配置成将所述节点集可移除地耦接到至少一个主机计算节点。
12.根据权利要求11所述的装置，其中所述至少一个计算节点位于与所述节点集不同的芯片上。
13.根据权利要求1所述的装置，其中所述一个对等接口还被配置成可移除地耦接所述节点集。
14.根据权利要求1所述的装置，其中所述节点集联合地实行所接收的所述至少一个操作。
15.一种执行计算操作的方法，所述方法包括：
16.根据权利要求15所述的方法，其中所述节点集中的至少一个节点是存储器扩展器，所述存储器扩展器被配置成提供附加存储器以用于执行所接收的所...
【专利技术属性】
技术研发人员：A·海姆宗，
申请(专利权)人：马维尔亚洲私人有限公司，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。