一种调用请求处理方法及系统技术方案

本申请提供一种调用请求处理方法及系统，该调用请求处理方法包括:在接收到应用程序发起的基于智能算力的方法调用请求时，拦截方法调用请求；根据方法调用请求获取需要调用方法的参数序列；将参数序列发送至服务端，以使服务端根据参数序列进行方法调用得到调用执行结果；接收服务端反馈的调用执行结果；对调用执行结果进行分析，得到方法调用请求的方法调用结果；将方法调用结果返回至应用程序。可见，该方法能够实现远程使用GPU资源的能力，从而使得集群内智能算力资源碎片的有效利用，解决GPU资源碎片化问题。GPU资源碎片化问题。GPU资源碎片化问题。

【技术实现步骤摘要】
一种调用请求处理方法及系统


[0001]本申请涉及计算机
，具体而言，涉及一种调用请求处理方法及系统。

技术介绍

[0002]目前，随着物联网、5G、人工智能等新技术的发展，数据化、智能化时代已经到来。“智算中心”将逐渐取代传统数据中心，成为新一代的基础设施，满足未来对新型算力、海量数据、智能应用的依托需求。现有的方法调用方式，通常是在客户端本地进行人工智能方法调用，只能使用本地的GPU资源，从而导致就会出现整个集群的空闲GPU总数足够某个AI任务的需求，但由于这些GPU资源分布在不同的节点，导致这个人工智能方法无法正常调用，即出现智能算力资源的资源碎片未能充分利用；另一方面，由于一个人工智能应用对应GPU卡是独占模式，会导致该GPU卡处于利用率极低的情况。可见，现有方法无法充分利用资源碎片，且GPU资源利用率低。

技术实现思路

[0003]本申请实施例的目的在于提供一种调用请求处理方法及系统，能够实现远程使用GPU资源的能力，从而使得集群内智能算力资源碎片的有效利用，解决GPU资源碎片化问题。
[0004]本申请实施例第一方面提供了一种调用请求处理方法，应用于客户端，包括：
[0005]在接收到应用程序发起的基于智能算力的方法调用请求时，拦截所述方法调用请求；
[0006]根据所述方法调用请求获取需要调用方法的参数序列；
[0007]将所述参数序列发送至服务端，以使所述服务端根据所述参数序列进行方法调用得到调用执行结果；
[0008]接收所述服务端反馈的所述调用执行结果；
[0009]对所述调用执行结果进行分析，得到所述方法调用请求的方法调用结果；
[0010]将所述方法调用结果返回至所述应用程序。
[0011]在上述实现过程中，该方法可以优先在接收到应用程序发起的基于智能算力的方法调用请求时，拦截方法调用请求；并根据方法调用请求获取需要调用方法的参数序列；然后，将参数序列发送至服务端，以使服务端根据参数序列进行方法调用得到调用执行结果；再接收服务端反馈的调用执行结果；最后，对调用执行结果进行分析，得到方法调用请求的方法调用结果；并将方法调用结果返回至应用程序。可见，实施这种实施方式，能够实现远程使用GPU资源的能力，从而使得集群内智能算力资源碎片的有效利用，解决GPU资源碎片化问题。
[0012]进一步地，所述根据所述方法调用请求获取需要调用方法的参数序列，包括：
[0013]对所述方法调用请求进行参数分析和转换，得到所述应用程序需要调用的方法名和参数名；
[0014]将所述方法名和所述参数进行打包，得到参数序列。
[0015]进一步地，所述对所述调用执行结果进行分析，得到所述方法调用请求的方法调用结果，包括：
[0016]对所述调用执行结果进行解包，得到解包数据；
[0017]对所述调用执行结果进行分析转换处理，得到方法调用结果。
[0018]本申请实施例第二方面提供了一种调用请求处理方法，应用于服务端，包括：
[0019]接收客户端发送的参数序列；
[0020]根据所述参数序列进行确定待调用的目标方法；
[0021]对所述目标方法进行实际执行，得到调用执行结果；
[0022]将所述调用执行结果进行打包反馈至所述客户端。
[0023]在上述实现过程中，该方法可以优先接收客户端发送的参数序列；然后，根据参数序列进行确定待调用的目标方法；再对目标方法进行实际执行，得到调用执行结果；最后，再将调用执行结果进行打包反馈至客户端。可见，实施这种实施方式，能够实现远程使用GPU资源的能力，从而使得集群内智能算力资源碎片的有效利用，解决GPU资源碎片化问题。
[0024]进一步地，所述根据所述参数序列进行确定待调用的目标方法，包括：
[0025]对所述参数序列进行解包得到解包数据；
[0026]识别所述解包数据中的方法名和参数；
[0027]对所述参数进行分析得到解析数据；
[0028]根据所述解析数据和所述方法名确定待调用的目标方法。
[0029]进一步地，所述对所述目标方法进行实际执行，得到调用执行结果，包括：
[0030]根据所述解析数据和所述方法名对所述目标方法进行实际执行，得到实际执行结果；
[0031]在执行完后，对所述实际执行结果进行分析判断，得到分析结果；
[0032]当所述分析结果通过校验时，对所述实际执行结果进行打包，得到调用执行结果。
[0033]本申请实施例第二方面提供了一种调用请求处理系统，所述调用请求处理系统包括客户端和服务端，其中，
[0034]所述客户端，用于在接收到应用程序发起的基于智能算力的方法调用请求时，拦截所述方法调用请求；以及根据所述方法调用请求获取需要调用方法的参数序列；以及将所述参数序列发送至所述服务端；
[0035]所述服务端，用于接收所述客户端发送的所述参数序列；以及根据所述参数序列进行确定待调用的目标方法；以及对所述目标方法进行实际执行，得到调用执行结果；以及将所述调用执行结果进行打包反馈至所述客户端；
[0036]所述客户端，还用于接收所述服务端反馈的所述调用执行结果；以及对所述调用执行结果进行分析，得到所述方法调用请求的方法调用结果；以及将所述方法调用结果返回至所述应用程序。
[0037]在上述实现过程中，该系统可以通过客户端在接收到应用程序发起的基于智能算力的方法调用请求时，拦截方法调用请求；以及根据方法调用请求获取需要调用方法的参数序列；以及将参数序列发送至服务端；并通过服务端来接收客户端发送的参数序列；以及根据参数序列进行确定待调用的目标方法；以及对目标方法进行实际执行，得到调用执行结果；以及将调用执行结果进行打包反馈至客户端；最后，再通过客户端，还用于接收服务
端反馈的调用执行结果；以及对调用执行结果进行分析，得到方法调用请求的方法调用结果；以及将方法调用结果返回至应用程序。可见，实施这种实施方式，能够实现远程使用GPU资源的能力，从而使得集群内智能算力资源碎片的有效利用，解决GPU资源碎片化问题。
[0038]进一步地，所述客户端，具体用于对所述方法调用请求进行参数分析和转换，得到所述应用程序需要调用的方法名和参数名；以及将所述方法名和所述参数进行打包，得到参数序列。
[0039]本申请实施例第三方面提供了一种电子设备，包括存储器以及处理器，所述存储器用于存储计算机程序，所述处理器运行所述计算机程序以使所述电子设备执行本申请实施例第一方面中任一项所述的调用请求处理方法。
[0040]本申请实施例第四方面提供了一种计算机可读存储介质，其存储有计算机程序指令，所述计算机程序指令被一处理器读取并运行时，执行本申请实施例第一方面中任一项所述的调用请求处理方法。
附图说明
[0041]为了更清楚地说明本申请实施例的技术方案，下面将对本申请实施例中所需要使用的附图作简本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种调用请求处理方法，其特征在于，应用于客户端，包括：在接收到应用程序发起的基于智能算力的方法调用请求时，拦截所述方法调用请求；根据所述方法调用请求获取需要调用方法的参数序列；将所述参数序列发送至服务端，以使所述服务端根据所述参数序列进行方法调用得到调用执行结果；接收所述服务端反馈的所述调用执行结果；对所述调用执行结果进行分析，得到所述方法调用请求的方法调用结果；将所述方法调用结果返回至所述应用程序。2.根据权利要求1所述的调用请求处理方法，其特征在于，所述根据所述方法调用请求获取需要调用方法的参数序列，包括：对所述方法调用请求进行参数分析和转换，得到所述应用程序需要调用的方法名和参数名；将所述方法名和所述参数进行打包，得到参数序列。3.根据权利要求1所述的调用请求处理方法，其特征在于，所述对所述调用执行结果进行分析，得到所述方法调用请求的方法调用结果，包括：对所述调用执行结果进行解包，得到解包数据；对所述调用执行结果进行分析转换处理，得到方法调用结果。4.一种调用请求处理方法，其特征在于，应用于服务端，包括：接收客户端发送的参数序列；根据所述参数序列进行确定待调用的目标方法；对所述目标方法进行实际执行，得到调用执行结果；将所述调用执行结果进行打包反馈至所述客户端。5.根据权利要求4所述的调用请求处理方法，其特征在于，所述根据所述参数序列进行确定待调用的目标方法，包括：对所述参数序列进行解包得到解包数据；识别所述解包数据中的方法名和参数；对所述参数进行分析得到解析数据；根据所述解析数据和所述方法名确定待调用的目标方法。6.根据权利要求5所述的调用请求处理方法，其特征在于，所述对所述目标方法进行实际执行，得...

【专利技术属性】
技术研发人员：高梦云，
申请(专利权)人：睿云奇智青岛科技有限公司，
类型：发明
国别省市：