云端服务系统及其操作方法技术方案

本发明专利技术提供一种云端服务系统及其操作方法。所述云端服务系统包括第一计算资源池、第二计算资源池、任务分派服务器以及资源中介服务器。在第一计算资源池中的每一个计算平台具有至少一个协同处理器。第一计算资源池中的计算平台通过资源中介服务器可以将非协同处理器计算工作根据需要转发给在第二计算资源池中的经选计算平台。执行所述非协同处理器计算工作后，所述经选计算平台将执行结果回传和/或通知给发出所述非协同处理器计算工作的所述计算平台。述计算平台。述计算平台。

【技术实现步骤摘要】
云端服务系统及其操作方法


[0001]本专利技术涉及一种云端服务器技术，且特别涉及一种云端服务系统及其操作方法。

技术介绍

[0002]云端服务器(cloud server)可以提供各式各样的服务，例如算力服务。云端服务器可以提供计算资源，以执行各种任务(tasks)。一般而言，云端服务器是指一部或多部计算平台(computing platform)的丛集。所述计算平台可以是任何类型的计算机(computer)，例如个人计算机、服务器、工作站(workstation)或是其他类型的计算机。这些计算平台可能被散置在不同地点。

技术实现思路

[0003]本专利技术是针对一种云端服务系统及其操作方法，以有效率地提供计算资源去执行任务。
[0004]在根据本专利技术的实施例中，云端服务系统包括第一计算资源池、第二计算资源池、任务分派服务器以及资源中介服务器。在第一计算资源池中的每一个计算平台具有至少一个协同处理器。在第二计算资源池中的每一个计算平台不具有协同处理器。任务分派服务器用以接收多个任务且对所述多个任务中的当下待分派任务进行分派。任务分派服务器与在第一计算资源池中的每一个计算平台建立通信连接。所述第一计算资源池接受所述任务分派服务器的经分派任务。资源中介服务器与在第一计算资源池中的每一个计算平台建立通信连接，以及与在第二计算资源池中的每一个计算平台建立通信连接。当在第一计算资源池中的一个计算平台发出非协同处理器计算工作给资源中介服务器时，资源中介服务器将所述非协同处理器计算工作转发给在第二计算资源池中的一个经选计算平台。所述经选计算平台执行所述非协同处理器计算工作后将所述非协同处理器计算工作的执行结果通过资源中介服务器回传和/或通知给在第一计算资源池中发出所述非协同处理器计算工作的所述计算平台。
[0005]在根据本专利技术的实施例中，操作方法包括：由云端服务系统的任务分派服务器接收多个任务；由任务分派服务器对所述多个任务中的当下待分派任务进行分派；当在所述第一计算资源池中的一个计算平台发出非协同处理器计算工作给云端服务系统的资源中介服务器时，由资源中介服务器将所述非协同处理器计算工作转发给在云端服务系统的第二计算资源池中的一个经选计算平台；以及由所述经选计算平台执行所述非协同处理器计算工作后，将所述非协同处理器计算工作的执行结果通过资源中介服务器回传和/或通知给在第一计算资源池中发出所述非协同处理器计算工作的所述计算平台。
[0006]基于上述，本专利技术诸实施例所述任务分派服务器可以将当下待分派任务分派给在第一计算资源池中的一个计算平台执行。在任务的执行过程中，在第一计算资源池中的计算平台可以发出非协同处理器计算工作给资源中介服务器，而资源中介服务器可以将所述非协同处理器计算工作转发给在第二计算资源池中的经选计算平台。所述经选计算平台执
interface，API)。在计算平台120_1～120_m的任一个中，“CPU”模块表示一个或多个CPU芯片，和/或表示一个或多个CPU核(core)。一部计算平台中的CPU芯片数量以及CPU核数量可以依照实际设计/应用来决定。
[0025]在计算平台120_1～120_m的任一个中，“协同处理器”模块表示一个或多个协同处理器芯片，和/或表示一个或多个协同处理器核。一部计算平台中的协同处理器芯片数量以及协同处理器核数量可以依照实际设计/应用来决定。依照实际设计/应用，在一些实施例中，所述“协同处理器”可以包括图形处理器(Graphics Processing Unit，GPU)、人工智能(Artificial Intelligence，AI)处理器或是其他协同处理器。
[0026]第二计算资源池140包括一部或多部计算平台，例如图1所示n部计算平台140_1、
…
、140_n，其中n为依照实际设计/应用所决定的整数。所述计算平台140_1～140_n的任一个可以是任何类型的计算机，例如个人计算机、服务器、工作站或是其他类型的计算机。依照实际设计/应用，这些计算平台140_1～140_n可能被散置在不同地点(或安置在相同地点)。资源中介服务器130与在第二计算资源池140中的每一个计算平台140_1～140_n建立通信连接。资源中介服务器130亦与在第一计算资源池120中的每一个计算平台120_1～120_m建立通信连接。第一计算资源池120(可称为协同处理器池)与第二计算资源池140(可称为CPU池)是互为独立的。在所述第二计算资源池140中的计算平台140_1～140_n的任一个配置有CPU与其他组件(未绘示)，但是没有协同处理器。在计算平台140_1～140_n的任一个中，“CPU”模块表示一个或多个CPU芯片，和/或表示一个或多个CPU核(core)。一部计算平台中的CPU芯片数量以及CPU核数量可以依照实际设计/应用来决定。
[0027]图2是依照本专利技术的一实施例的一种云端服务系统的操作方法的流程示意图。请参照图1与图2。在步骤S210中，任务分派服务器110可以接收多个任务。在步骤S220中，任务分派服务器110可以对所述多个任务中的当下待分派任务进行分派。第一计算资源池120接受任务分派服务器110的经分派任务。举例来说，在一些实施例中，任务分派服务器110可以依据在第一计算资源池120中的每一个计算平台120_1～120_m的协同处理器数量、每一个协同处理器的当下算力、以及所述当下待分派任务的协同处理器算力需要其中至少一者，从第一计算资源池120中选择一个计算平台作为所述当下待分派任务的分派目的地。在另一些实施例中，任务分派服务器110可以依据在第一计算资源池120中的每一个计算平台120_1～120_m的CPU核数量与协同处理器核数量、每一个CPU核的当下算力、每一个协同处理器核的当下算力、以及所述当下待分派任务的算力需要，从第一计算资源池120中选择一个计算平台作为所述当下待分派任务的分派目的地。
[0028]应当说明的是，任务分派服务器110可以选择性地决定是否将所述多个任务中的当下待分派任务分派给第一计算资源池120执行。任务分派服务器110还可以非选择性地将所述多个任务中的当下待分派任务直接分派给第一计算资源池120执行。
[0029]在第一计算资源池120中的每一个计算平台120_1～120_m可以管理与分派所述任务分派服务器110所给予的任务的多个工作，以及选择性地决定是否将所述多个工作中的一个或多个工作通过资源中介服务器130发给第二计算资源池140。当在第一计算资源池120中的一个计算平台发出非协同处理器计算工作给资源中介服务器130(步骤S230)时，资源中介服务器130可以将所述非协同处理器计算工作转发给在第二计算资源池140中的一个经选计算平台(步骤S240)。资源中介服务器130依据可以在第二计算资源池140中的每一
个计算平台140_1～140_n的当下CPU算力，从第二计算资源池140中选择一个计算平台作为所述经选计算平台。在步骤S250中，第二计算资源池140中的所述经本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种云端服务系统，其特征在于，所述云端服务系统包括：第一计算资源池，其中在所述第一计算资源池中的每一个计算平台具有至少一个协同处理器；任务分派服务器，用以接收多个任务且对所述多个任务中的当下待分派任务进行分派，其中所述任务分派服务器与在所述第一计算资源池中的每一个计算平台建立通信连接，以及所述第一计算资源池接受所述任务分派服务器的经分派任务；第二计算资源池，其中在所述第二计算资源池中的每一个计算平台不具有协同处理器；以及资源中介服务器，与在所述第一计算资源池中的每一个计算平台建立通信连接，以及与在所述第二计算资源池中的每一个计算平台建立通信连接，其中当在所述第一计算资源池中的一个计算平台发出非协同处理器计算工作给所述资源中介服务器时，所述资源中介服务器将所述非协同处理器计算工作转发给在所述第二计算资源池中的一个经选计算平台，以及所述经选计算平台执行所述非协同处理器计算工作后将所述非协同处理器计算工作的执行结果通过所述资源中介服务器回传和/或通知给在所述第一计算资源池中发出所述非协同处理器计算工作的所述计算平台。2.根据权利要求1所述的云端服务系统，其特征在于，所述至少一个协同处理器包括图形处理器或是人工智能处理器。3.根据权利要求1所述的云端服务系统，其特征在于，所述任务分派服务器依据在所述第一计算资源池中的每一个计算平台的协同处理器数量、每一个协同处理器的当下算力、以及所述当下待分派任务的协同处理器算力需要其中至少一者，从所述第一计算资源池中选择一个计算平台作为所述当下待分派任务的分派目的地。4.根据权利要求1所述的云端服务系统，其特征在于，在所述第一计算资源池中的一个计算平台包括中央处理器与所述至少一个协同处理器，所述中央处理器接受所述任务分派服务器的所述经分派任务，所述中央处理器管理与分派所述经分派任务的多个工作，所述中央处理器通过协同处理器编程接口将所述多个工作中的协同处理器计算工作分派给所述至少一个协同处理器执行，所述中央处理器将所述多个工作中的所述非协同处理器计算工作分派给所述中央处理器或是所述资源中介服务器，以及所述中央处理器执行所述经分派任务后通知所述任务分派服务器。5.根据权利要求4所述的云端服务系统，其特征在于，所述中央处理器检查所述多个工作中的当下待分派工作的工作属性，以及所述中央处理器依据所述工作属性选择将所述当下待分派工作分派给所述至少一个协同处理器、所述中央处理器或是所述资源中介服务器。6.根据权利要求5所述的云端服务系统，其特征在于，所述中央处理器依据所述至少一个协同处理器的协同处理器数量、所述至少一个协同处理器的每一个的当下算力、以及所述当下待分派工作的协同处理器算力需要其中至少一者，从所述至少一个协同处理器中选择一个协同处理器作为所述当下待分派工作的分派目的地。7.根据权利要求1所述的云端服务系统，其特征在于，所述资源中介服务器依据在所述第二计算资源池中的每一个计算平台的当下中央处理器算力，从所述第二计算资源池中选择一个计算平台作为所述经选计算平台。
8.根据权利要求1所述的云端服务系统，其特征在于，所述任务分派服务器还与在所述第二计算资源池中的每一个计算平台建立通信连接，所述任务分派服务器检查所述当下待分派任务的任务属性，以及依据所述任务属性选择将所述当下待分派任务分派给所述第一计算资源池或是所述第二计算资源池执行。9.根据权利要求8所述的云端服务系统，其特征在于，所述任务分派服务器依据在所述当下待分派任务中的命令行的识别特征来判断所述当下待分派任务的所述任务属性。10.根据权利要求9所述的云端服务系统，其特征在于，当在所述当下待分派任务的所述命令行中具有协同处理器所对应的所述识别特征时，所述任务分派服务器将所述当下待分派任务分派给在所述第一计算资源池中的一个计算平台执行，以及当在所述当下待分派任务的所有命令行皆没有协同处理器所对应的所述识别特征时，所述任务分派服务器将所述当下待分派任务分派给在所述第二计算资源池中的一个计算平台执行。11.根据权利要求8所述的云端服务系统，其特征在于，在所述第二计算资源池中的一个计算平台的中央处理器接受所述任务分派服务器的所述经分派任务，以及所述中央处理器执行所述经分派任务后通知所述任务分派服务器。12.一种云端服务系统的操作方法，其特征在于，所述操作方法包括：由所述云端服务系统的任务分派服务器接收多个任务；由所述任务分派服务器对所述多个任务...

【专利技术属性】
技术研发人员：ꢀ七四专利代理机构，
申请(专利权)人：上海壁仞智能科技有限公司，
类型：发明
国别省市：