【技术实现步骤摘要】
技术介绍
1、现代计算和服务器设计的发展，包括但不限于生成式人工智能(ai)的并入和使用，已经极大地增加了对存储器和计算能力(本文称为“计算”)的需求。例如，机器学习模型通常需要大量的计算能力来实行、训练和使用需要存储在易于访问的存储器中的大型训练集。单一芯片设计已经不能跟上对更多存储器和计算能力这种增长的需要。
2、满足对更多存储器和计算的增长需要的一种可能方法是利用更多主要(“主机”)计算节点或芯片，但这可能变得昂贵且低效。由于这些限制，并入片外和/或外部存储器和计算能力的系统和芯片设计已经开始发展，诸如存储器扩展器和近存储器计算(nmc)，其可连接到主要主机计算节点并且随后被其利用。需要对如何并入附加的存储器和计算能力进行改进，而不需要改变(一个或多个)主要主机，并且可以是特定系统的存储器和计算能力需要定制。
技术实现思路
1、提供了一种新颖设计，包括外部、芯片外或服务器外装置，其可以提供足够的计算和数据储存能力，以满足对计算能力和/或存储器的不断增长的需求。这种设计并...
【技术保护点】
1.一种装置，包括：
2.根据权利要求1所述的装置，其中所述节点集中的至少一个节点为存储器扩展器，所述存储器扩展器被配置成提供附加存储器以用于执行所接收的所述至少一个操作。
3.根据权利要求1所述的装置，其中所述节点集中的至少一个节点是近存储器计算NMC，所述近存储器计算NMC被配置成提供附加计算能力以用于执行所接收的所述至少一个操作。
4.根据权利要求1所述的装置，其中所述节点集还被配置成并行地实行所接收的所述至少一个操作。
5.根据权利要求1所述的装置，其中所述节点集通过所述对等接口以菊花链拓扑的方式进行连接。>
6.根据权利...
【技术特征摘要】
1.一种装置，包括：
2.根据权利要求1所述的装置，其中所述节点集中的至少一个节点为存储器扩展器，所述存储器扩展器被配置成提供附加存储器以用于执行所接收的所述至少一个操作。
3.根据权利要求1所述的装置，其中所述节点集中的至少一个节点是近存储器计算nmc，所述近存储器计算nmc被配置成提供附加计算能力以用于执行所接收的所述至少一个操作。
4.根据权利要求1所述的装置，其中所述节点集还被配置成并行地实行所接收的所述至少一个操作。
5.根据权利要求1所述的装置，其中所述节点集通过所述对等接口以菊花链拓扑的方式进行连接。
6.根据权利要求1所述的装置，其中所述至少一个操作源自至少一个外部主机。
7.根据权利要求6所述的装置，其中所述至少一个外部主机将所述节点集用作单一实体。
8.根据权利要求1所述的装置，其中所述i/o接口中的至少一个i/o接口和所述至少一个对等接口为pciexpress pcie接口。
9.根据权利要求8所述的装置，其中所述pci express pcie接口利用计算高速链路cxl协议。
10.根据权利要求1所述的装置，其中所述节点集是模块化的，并且包括所述节点集的节点数量和节点类型是可变的。
11.根据权利要求1所述的装置，其中所述i/o接口被配置成将所述节点集可移除地耦接到至少一个主机计算节点。
12.根据权利要求11所述的装置，其中所述至少一个计算节点位于与所述节点集不同的芯片上。
13.根据权利要求1所述的装置，其中所述一个对等接口还被配置成可移除地耦接所述节点集。
14.根据权利要求1所述的装置，其中所述节点集联合地实行所接收的所述至少一个操作。
15.一种执行计算操作的方法，所述方法包括：
16.根据权利要求15所述的方法，其中所述节点集中的至少一个节点是存储器扩展器，所述存储器扩展器被配置成提供附加存储器以用于执行所接收的所...
【专利技术属性】
技术研发人员：A·海姆宗，
申请(专利权)人：马维尔亚洲私人有限公司，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。