服务器系统技术方案

一种服务器系统，包括：第一多个大容量存储器装置、中央处理器(CPU)和至少一个近端数据处理(NDP)引擎。CPU被连接到第一多个大容量存储器装置(诸如固态驱动器(SSD)装置)，并且所述至少一个NDP引擎与第二多个大容量存储器装置相关联，并被插入在CPU和与NDP引擎相关联的第二多个大容量存储器装置之间。第二多个大容量存储器装置是第一多个大容量存储器装置的一部分或者全部。NDP引擎的数量可基于与CPU相关联的带宽、与网络相关联的带宽、与通信结构相关联的带宽以及与所有NDP引擎相关联的带宽之中的最小带宽除以与单个NDP引擎相关联的带宽被确定。

【技术实现步骤摘要】
服务器系统
本文公开的主题总体涉及用于减少服务器系统中的性能不平衡的系统和方法，并且更具体地，涉及在可存储数据的地方附近提供数据处理以减少服务器系统中的性能不平衡的服务器系统架构和方法。
技术介绍
现代数据中心可遭受数据处理和数据移动之间的不平衡，这可降低数据中心的性能和能效两者。所述不平衡通常是基于与服务器系统的组件有关的延迟或瓶颈。例如，数据密集型应用可导致由于通过存储器的数据移动而引起的性能瓶颈。对于计算密集型应用，可由处理器上的负载引起瓶颈。所述不平衡还可引起额外的能耗，这主要是基于服务器系统的组件(例如，可能处于等待数据或指令的空闲状态但是仍然消耗能量以保持当前状态的存储器和/或处理器)的未充分利用。采用大数据分析的趋势可进一步加剧服务器系统中可能出现的所述不平衡。例如，可对大量不同的数据集执行大数据分析，以发现隐藏的模式、未知的相关性、市场趋势、客户偏好和/或其他有用的信息。对于这样的大数据分析，可涉及大规模数据移动，这可能容易导致性能瓶颈。同样地，为大数据分析提供强大的工具的机器学习是计算相当密集的，同时还涉及大量的用于训练的数据。如果正在被处理的数据量和工作负载的数据处理的分析复杂性规模性增加，则数据中心的性能和能效二者都会进一步降低。
技术实现思路
技术问题本专利技术的目的是提供一种减少由数据密集型应用或计算密集型应用引起的系统不平衡的服务器系统。技术方案示例实施例提供一种服务器系统，可包括：第一多个大容量存储器装置、至少一个中央处理器(CPU)和至少一个近端数据处理(NDP)引擎。所述至少一个CPU可被连接到第一多个大容量存储器装置。每个NDP引擎可与第二多个大容量存储器装置相关联，并被插入在CPU和第二多个大容量存储器装置之间。第二多个大容量存储器装置是第一多个大容量存储器装置的一部分或者全部。大容量存储器装置可包括至少一个固态驱动器(SSD)装置。网络接口可通过网络将服务器系统可通信地连接到至少一个远程系统，其中，所述至少一个远程系统可在服务器系统外部，通信结构可被插入在CPU和所述至少一个NDP引擎之间。在一个实施例中，形成服务器系统的NDP引擎的数量可至少部分地基于与CPU相关联的带宽、与网络相关联的带宽、与通信结构相关联的带宽以及与所有NDP引擎相关联的带宽之中的最小带宽除以与单个NDP引擎相关联的带宽被确定。在另一实施例中，开关层可被插入在NDP引擎和第一多个大容量存储器装置之间，其中，开关层可将NDP引擎和与该NDP引擎相关联的第二多个大容量存储器装置可通信地连接。在又一实施例中，开关层可被插入在第二NDP引擎和第一多个大容量存储器装置之间，其中，开关层可将第二NDP引擎和与第二NDP引擎相关联的第二多个大容量存储器装置可通信地连接。另一示例实施例提供一种服务器系统，可包括：网络接口、第一多个SSD装置、至少一个CPU和至少一个NDP引擎。网络接口可通过网络将服务器系统可通信地连接到至少一个远程系统，其中，所述至少一个远程系统可在服务器系统外部。所述至少一个CPU可被连接到网络接口和第一多个SSD装置。每个NDP引擎可与第二多个SSD装置相关联，并被插入在CPU和第二多个SSD装置之间，其中，第二多个SSD装置是第一多个SSD装置的一部分或者全部。通信结构可被插入在CPU和所述至少一个NDP引擎之间，并且形成服务器系统的NDP引擎的数量可基于与CPU相关联的带宽、与网络相关联的带宽、与通信结构相关联的带宽以及与所有NDP引擎相关联的带宽之中的最小带宽除以与单个NDP引擎相关联的带宽被确定。再一示例实施例提供一种服务器系统，可包括：第一多个大容量存储器装置、至少一个CPU、至少一个NDP引擎和开关层。所述至少一个CPU可连接到第一多个大容量存储器装置。每个NDP引擎与第二多个大容量存储器装置相关联，并被插入在CPU和第二多个大容量存储器装置之间。第二多个大容量存储器装置是第一多个大容量存储器装置的一部分或者全部。开关层可被插入在每个NDP引擎和第一多个大容量存储器装置之间，其中，开关层可将每个NDP引擎和各自的第二多个大容量存储器装置可通信地连接。网络接口可通过网络将服务器系统可通信地连接到至少一个远程系统，其中，所述至少一个远程系统可在服务器系统外部，通信结构可被插入在CPU和所述至少一个NDP引擎之间。开关层可被插入在第二NDP引擎和第一多个大容量存储器装置之间，其中，开关层可将第二NDP引擎和与第二NDP引擎相关联的第二多个大容量存储器装置可通信地连接。有益效果根据本专利技术，近端数据处理引擎被部署在服务器系统中。因此，提供了一种减少系统不平衡的服务器系统。附图说明在以下部分中，将参照附图中示出的示例性实施例来描述本文中公开的主题的各方面，其中：图1A示出根据本文中公开的主题的服务器系统的架构的第一示例实施例的框图；图1B示出根据本文中公开的主题的服务器系统的架构的第二示例实施例的框图；图2示出根据本文中公开的主题的服务器系统的架构和NDP引擎的框图；图3A和图3B分别示出根据本文中公开的主题的数据可通过具有NDP的服务器系统传递的示例路径；图4A示出原始数据通过主机端DRAM到达NDPE的典型的示例数据流；图4B示出根据本文中公开的主题的原始数据不需要通过主机端DRAM到达NDPE的可选的示例数据流；图5A示出根据本文中公开的主题的服务器系统的架构的示例实施例的框图；图5B示出根据本文中公开的主题的可使用多路复用器将两个SSD适应性地连接到两个NDPE的开关层的示例实施例的框图；图5C示出根据本文中公开的主题的可使用多路复用器将四个SSD适应性地连接到四个NDPE的开关层的示例实施例的框图；图5D示出根据本文中公开的主题的可使用多路复用器将n个SSD适应性地连接到n个NDPE的开关层的示例实施例的框图；图6A示出根据本文中公开的主题的在N＝4的示例服务器系统中的选择性地激活的NDPE；图6B示出根据本文中公开的主题的在N＝5的示例服务器系统中的选择性地激活的NDPE；图6C示出根据本文中公开的主题的在N＝6的示例服务器系统中的选择性地激活的NDPE；图6D示出根据本文中公开的主题的在N＝7的示例服务器系统中的选择性地激活的NDPE；图6E示出根据本文中公开的主题的在N＝8的示例服务器系统中的选择性地激活的NDPE；图7示出根据本文中公开的主题的针对具有八个NDPE的示例服务器系统、使用示例伪代码来确定哪些NDPE被选择性地激活以及哪些SSD被连接到激活的NDPE的示例方法的流程图。具体实施方式在以下详细描述中，阐述了许多具体细节以便提供对本公开的透彻理解。然而，本领域技术人员将理解，可在没有这些具体细节的情况下实践所公开的各方面。在其他情况下，没有详细描述公知的方法、程序、组件和电路，以免模糊本文中公开的主题。在整个本说明书对“一个实施例”或“实施例”的引用意味着结合该实施例描述的特定特征、结构或特性可被包括在本文中公开的至少一个实施例中。因此，在贯穿本说明书的各个地方的短语“在一个实施例中”或“在实施例中”或“根据一个实施例”(或者具有相似含义的其他词语)可不需要都指同一实施例。另外，特定特征、结构或特性可按照任意适当的方式被组合在一个或更多个实施例中。就此本文档来自技高网...

【技术保护点】
1.一种服务器系统，包括：第一多个大容量存储器装置；至少一个中央处理器CPU，连接到第一多个大容量存储器装置；和至少一个近端数据处理NDP引擎，每个NDP引擎与第二多个大容量存储器装置相关联，并被插入在CPU和第二多个大容量存储器装置之间，其中，第二多个大容量存储器装置是第一多个大容量存储器装置的一部分或者全部。

【技术特征摘要】
2018.04.02 US 62/651,707;2018.07.05 US 16/028,2811.一种服务器系统，包括：第一多个大容量存储器装置；至少一个中央处理器CPU，连接到第一多个大容量存储器装置；和至少一个近端数据处理NDP引擎，每个NDP引擎与第二多个大容量存储器装置相关联，并被插入在CPU和第二多个大容量存储器装置之间，其中，第二多个大容量存储器装置是第一多个大容量存储器装置的一部分或者全部。2.如权利要求1所述的服务器系统，其中，大容量存储器装置包括至少一个固态驱动器SSD装置。3.如权利要求2所述的服务器系统，还包括：网络接口，通过网络将服务器系统可通信地连接到至少一个远程系统，其中，所述至少一个远程系统在服务器系统外部；和通信结构，被插入在CPU和所述至少一个NDP引擎之间。4.如权利要求3所述的服务器系统，其中，所述至少一个NDP引擎的数量至少部分地基于与CPU相关联的带宽、与网络相关联的带宽、与通信结构相关联的带宽以及与所有NDP引擎相关联的带宽之中的最小带宽除以与单个NDP引擎相关联的带宽被确定。5.如权利要求3所述的服务器系统，还包括：开关层，被插入在所述至少一个NDP引擎和第一多个大容量存储器装置之间，其中，开关层将每个NDP引擎和各自的第二多个大容量存储器装置可通信地连接。6.如权利要求5所述的服务器系统，其中，开关层被插入在第二NDP引擎和第一多个大容量存储器装置之间，开关层将第二NDP引擎和与第二NDP引擎相关联的第二多个大容量存储器装置可通信地连接。7.如权利要求6所述的服务器系统，其中，开关层包括网络结构。8.如权利要求7所述的服务器系统，其中，网络结构包括外围组件互连高速PCIe网络，并且其中，所述至少一个NDP引擎包括基于处理器的NDP引擎或基于现场可编程门阵列FPGA的NDP引擎。9.一种服务器系统，包括：网络接口，通过网络将服务器系统可通信地连接到至少一个远程系统，其中，所述至少一个远程系统在服务器系统外部；第一多个固态驱动器SSD装置；至少一个中央处理器CPU，连接到网络接口和第一多个SSD装置；和至少一个近端数据处理NDP引擎，每个NDP引擎与第二多个SSD装置相关联，并被插入在CPU和第二多个SSD装置之间，其中，第二多个SSD装置是第一多个SSD装置的一部分或者全部。10.如权利要求9所述的服务...

【专利技术属性】
技术研发人员：宋晓甲，斯蒂芬·加里·菲舍尔，
申请(专利权)人：三星电子株式会社，
类型：发明
国别省市：韩国,KR