【技术实现步骤摘要】
【国外来华专利技术】具有两个嵌入式环的网络计算机
[0001]本公开涉及在计算机中连接的处理节点之间的数据交换,具体地但不排他地用于优化数据交换和机器学习/人工智能应用。
技术介绍
[0002]集合体(collective)是在计算机中处理数据时常用的例程。它们是使得数据能够跨多个不同进程(process)而被共享和处理的例程,这些进程可能在同一处理节点或不同处理节点上运行。例如,如果一个进程从数据存储中读取数据,它可以使用“广播”进程来与其他进程共享该数据。另一个示例是当特定函数的结果被多个进程需要时。“归约(reduction)”是这样一种结果,其已要求对来自多个进程中的每一个进程的数据值应用计算功能。“聚集(Gather)”和“分散(Scatter)”集合体处理多于一个的数据项。某些集合体在处理机器学习应用中已变得越来越重要。
[0003]MPI(Message Passing Interface,消息传递接口)是一种消息传递标准,其可应用于多种并行计算架构。MPI定义了许多适用于机器学习的集合体。两个这样的集合体被称为“归约(R ...
【技术保护点】
【技术特征摘要】
【国外来华专利技术】1.一种计算机,包括多个互连的处理节点,所述多个互连的处理节点布置在其中多个层的互连节点沿轴向布置的配置中,每层包括至少四个处理节点,所述至少四个处理节点通过每对相邻处理节点之间的至少相应的层内链路连接成非轴向环,其中,每层中的至少四个处理节点中的每一个通过相应的层间链路连接到一个或多个相邻层中的相应的对应节点,所述计算机被编程为在配置中提供两个嵌入式一维路径,并围绕两个嵌入式一维路径中的每一个传输数据,每个嵌入式一维路径以两个嵌入式一维路径同时操作而不共享链路的方式使用计算机的所有处理节点。2.根据权利要求1所述的计算机,其中,所述配置是环形配置,其中所述多个层的相应连接的对应节点形成至少四个轴向环。3.根据权利要求1所述的计算机,其中,所述多个层包括第一最末端层和第二最末端层以及在第一最末端层和第二最末端层之间的至少一个中间层,其中,第一最末端层中的每个处理节点除了其相邻节点之外还连接到第一最末端层中的非相邻节点,并且第二最末端层中的每个处理节点除了其相邻节点之外还连接到第二最末端层中的非相邻节点。4.根据前述权利要求中任一项所述的计算机,其中,每个处理节点被配置为在其相应的层内链路和层间链路上输出数据,其中在所述处理节点的层内链路和层间链路的每一个上具有相同的带宽利用。5.根据前述权利要求中任一项所述的计算机,其中,所述多个层中的每层正好具有四个节点。6.根据前述权利要求中任一项所述的计算机,其包括沿轴向布置的若干层,所述层的数量大于每层中的处理节点的数量。7.根据权利要求1至5中任一项所述的计算机,其包括沿轴向布置的若干层,所述层的数量与每层中的节点的数量相同。8.根据前述权利要求中任一项所述的计算机,其中,所述层内链路和层间链路包括处理节点之间的固定连接。9.根据权利要求1至7中任一项所述的计算机,其中,所述层间链路和层内链路中的至少一个包括切换电路,所述切换电路可操作来将处理节点中的一个选择性地连接到多个其他处理节点中的一个。10.根据权利要求3所述的计算机,其中,所述第一最末端层中的处理节点的层间链路和层内链路中的至少一个包括切换电路,所述切换电路可操作来将处理节点从其在第二最末端层中的对应节点断开,并将其连接到第一最末端层中的非相邻节点。11.根据权利要求3所述的计算机,其中,所述第一最末端层中的处理节点的层间链路中的至少一个包括切换电路,所述切换电路可操作来将所述处理节点从其在第一最末端层中的相邻节点断开,并将其连接到第二最末端层中的对应节点。12.根据前述权利要求中任一项所述的计算机,其中,每个嵌入式一维路径包括层间链路之一和层内链路之一的交替序列。13.根据前述权利要求中任一项所述的计算机,其中,每个一维嵌入式路径包括处理节点的序列,所述处理节点的序列在每层中的方向上被访问,所述方向在每个一维路径的所
有层中是相同的。14.根据权利要求1至12中任一项所述的计算机,其中,每个一维嵌入式路径包括一系列处理节点,所述处理节点的序列在每层中的一方向上被访问,所述方向在每个一维路径内的相继层中是不同的。15.根据前述权利要求中任一项所述的计算机,其包括六个层,每层具有连接成非轴向环的四个处理节点。16.根据权利要求1至14中任一项所述的计算机,其包括八个层,每层具有连接成非轴向环的八个处理节点。17.根据权利要求1至14中任一项所述的计算机...
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。