服务请求处理方法和装置、电子设备、存储介质制造方法及图纸

本申请涉及一种服务请求处理方法和装置、电子设备、存储介质，其中，该方法包括：获取目标服务请求，其中，目标服务请求用于请求调用目标服务；按照目标任务类将目标服务请求转化为目标任务对象，其中，目标任务类定义有任务方法和指向用于存放结果数据的容器的结果容器属性；通过目标执行器获取目标任务对象，以对目标任务对象进行处理；通过目标任务对象在预设阻塞时长内，阻塞获取目标结果容器中的结果数据，确定出与目标服务请求对应的目标返回结果，其中，预设阻塞时长是目标服务中对任务对象进行处理的最大处理时长。本申请解决了相关技术中由于服务请求的输入复杂，无法确保结果返回时间，导致服务请求可能长时间无法得到结果的技术问题。结果的技术问题。结果的技术问题。

【技术实现步骤摘要】
服务请求处理方法和装置、电子设备、存储介质


[0001]本申请涉及人工智能
，尤其涉及一种服务请求处理方法和装置、电子设备、存储介质。

技术介绍

[0002]随着人工智能
的快速发展，越来越多的应用需要AI算法为其赋能。算法最终落地实现的形式通常是先封装在服务中，再通过服务的对外接口进行调用。但由于服务的请求输入复杂，会导致任务情况多变，服务难以保证在所有情况下都保持测试性能或不出现异常。一方面，可能会造成任务始终没有结果返回；另一方面，可能由于性能问题导致计算资源始终被占用，无法被释放；此外，若是执行单元进入异常状态，其无法再为后续任务工作，则难以保证稳定的计算能力。
[0003]针对上述相关技术中由于服务请求的输入复杂，无法确保结果返回时间，导致服务请求可能长时间无法得到结果的问题，目前尚未提出有效的解决方案。

技术实现思路

[0004]本申请提供了一种服务请求处理方法和装置、电子设备、存储介质，以至少解决相关技术中由于服务请求的输入复杂，无法确保结果返回时间，导致服务请求可能长时间无法得到结果的技术问题。
[0005]根据本申请实施例的一个方面，提供了一种服务请求处理方法，包括：获取目标服务请求，其中，目标服务请求用于请求调用目标服务；按照目标任务类将目标服务请求转化为目标任务对象，其中，目标任务类定义有任务方法和指向用于存放结果数据的容器的结果容器属性；通过目标执行器获取目标任务对象，以对目标任务对象进行处理，其中，目标执行器用于对目标任务对象进行处理，并在得到目标任务对象的目标处理结果之后，通过调用目标任务对象中的结果回写方法，将目标处理结果写入目标任务对象的结果容器属性所指向的目标结果容器中，任务方法包括结果回写方法；通过目标任务对象在预设阻塞时长内，阻塞获取目标结果容器中的结果数据，确定出与目标服务请求对应的目标返回结果，其中，预设阻塞时长是目标服务中对任务对象进行处理的最大处理时长。
[0006]根据本申请实施例的另一方面，还提供了一种服务请求处理装置，包括：获取模块，用于获取目标服务请求，其中，目标服务请求用于请求调用目标服务；转化模块，用于按照目标任务类将目标服务请求转化为目标任务对象，其中，目标任务类定义有任务方法和指向用于存放结果数据的容器的结果容器属性；处理模块，用于通过目标执行器获取目标任务对象，以对目标任务对象进行处理，其中，目标执行器用于对目标任务对象进行处理，并在得到目标任务对象的目标处理结果之后，通过调用目标任务对象中的结果回写方法，将目标处理结果写入目标任务对象的结果容器属性所指向的目标结果容器中，任务方法包括结果回写方法；确定模块，用于通过目标任务对象在预设阻塞时长内，阻塞获取目标结果容器中的结果数据，确定出与目标服务请求对应的目标返回结果，其中，预设阻塞时长是目
标服务中对任务对象进行处理的最大处理时长。
[0007]根据本申请实施例的另一方面，还提供了一种存储介质，该存储介质包括存储的程序，程序运行时执行上述的方法。
[0008]根据本申请实施例的另一方面，还提供了一种电子设备，包括：处理器、通信接口、存储器和通信总线，其中，所述处理器、通信接口和存储器通过通信总线完成相互间的通信；所述存储器，用于存放计算机程序；所述处理器，用于执行所述计算机程序时，实现如前述任一项所述的方法。
[0009]根据本申请的一个方面，提供了一种计算机可读存储介质，所述存储介质包括存储的程序，其中，所述程序运行时执行如前任一项所述的方法。
[0010]在本申请实施例中，采用获取目标服务请求，其中，目标服务请求用于请求调用目标服务；按照目标任务类将目标服务请求转化为目标任务对象，其中，目标任务类定义有任务方法和指向用于存放结果数据的容器的结果容器属性；通过目标执行器获取目标任务对象，以对目标任务对象进行处理，其中，目标执行器用于对目标任务对象进行处理，并在得到目标任务对象的目标处理结果之后，通过调用目标任务对象中的结果回写方法，将目标处理结果写入目标任务对象的结果容器属性所指向的目标结果容器中，任务方法包括结果回写方法；通过目标任务对象在预设阻塞时长内，阻塞获取目标结果容器中的结果数据，确定出与目标服务请求对应的目标返回结果，其中，预设阻塞时长是目标服务中对任务对象进行处理的最大处理时长的方式，通过将服务请求转化为任务对象，利用执行器对任务对象进行处理并将处理结果置于任务对象的容器对象中，通过任务对象从自身的容器对象中阻塞获取结果数据，能够在预设阻塞时长内确定出服务请求对应的返回结果，与处理任务对象所需的实际时间进行解耦，确保服务请求在预设时长内得到结果响应，进而解决了相关技术中由于服务请求的输入复杂，无法确保结果返回时间，导致服务请求可能长时间无法得到结果的技术问题。
附图说明
[0011]此处所说明的附图用来提供对本申请的进一步理解，构成本申请的一部分，本申请的示意性实施例及其说明用于解释本申请，并不构成对本申请的不当限定。在附图中：
[0012]图1是根据本申请实施例的服务请求处理方法的硬件环境的示意图；
[0013]图2是根据本申请实施例的一种可选的服务请求处理方法的流程图；
[0014]图3是根据本申请实施例的一种可选的任务示意图；
[0015]图4是根据本申请实施例的一种可选的任务容器示意图；
[0016]图5是根据本申请实施例的一种可选的任务提交器示意图；
[0017]图6是根据本申请实施例的一种可选的执行器示意图；
[0018]图7是根据本申请实施例的一种可选的执行器监控器的监控流程示意图；
[0019]图8是根据本申请实施例的一种可选的服务请求处理方案的整体思路示意图；
[0020]图9是根据本申请实施例的一种可选的服务请求处理装置的示意图；以及，
[0021]图10是根据本申请实施例的一种电子设备的结构示意图。
具体实施方式
[0022]为了使本
的人员更好地理解本申请方案，下面将结合本申请实施例中的附图，对本申请实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本申请一部分的实施例，而不是全部的实施例。基于本申请中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都应当属于本申请保护的范围。
[0023]需要说明的是，本申请的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象，而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换，以便这里描述的本申请的实施例能够以除了在这里图示或描述的那些以外的顺序实施。此外，术语“包括”和“具有”以及他们的任何变形，意图在于覆盖不排他的包含，例如，包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元，而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。
[0024]首先，在对本申请实施例进行描述本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种服务请求处理方法，其特征在于，包括：获取目标服务请求，其中，所述目标服务请求用于请求调用目标服务；按照目标任务类将所述目标服务请求转化为目标任务对象，其中，所述目标任务类定义有任务方法和指向用于存放结果数据的容器的结果容器属性；通过目标执行器获取所述目标任务对象，以对所述目标任务对象进行处理，其中，所述目标执行器用于对所述目标任务对象进行处理，并在得到所述目标任务对象的目标处理结果之后，通过调用所述目标任务对象中的结果回写方法，将所述目标处理结果写入所述目标任务对象的结果容器属性所指向的目标结果容器中，所述任务方法包括所述结果回写方法；通过所述目标任务对象在预设阻塞时长内，阻塞获取所述目标结果容器中的结果数据，确定出与所述目标服务请求对应的目标返回结果，其中，所述预设阻塞时长是所述目标服务中对任务对象进行处理的最大处理时长。2.根据权利要求1所述的方法，其特征在于，所述方法还包括：在执行器监控器监控到执行器容器中存在健康状态异常的异常执行器的情况下，通过所述执行器监控器调用执行器管理器中的刷新方法，在所述执行器容器中启用新的执行器取代所述异常执行器，其中，所述执行器监控器为用于对执行器进行状态监控的线程或进程，所述执行器容器中的每个执行器是由执行器管理器创建并存放至所述执行器容器中的，所述执行器管理器为执行器管理类对象，所述执行器管理类定义有执行器管理方法、用于存放执行器的执行器容器属性，所述执行器管理方法包括所述刷新方法。3.根据权利要求2所述的方法，其特征在于，在所述通过目标执行器获取所述目标任务对象之后，所述方法还包括：通过所述目标执行器对所述目标任务对象进行处理；若所述目标执行器在目标时长内得到所述目标处理结果，则所述目标执行器调用所述结果回写方法，将所述目标处理结果写入所述目标结果容器，其中，所述目标时长小于所述预设阻塞时长；所述通过所述目标任务对象在预设阻塞时长内，阻塞获取所述目标结果容器中的结果数据，确定出与所述目标服务请求对应的目标返回结果，包括：若所述目标任务对象在所述预设阻塞时长内，从所述目标结果容器中获取到所述目标处理结果，则将所述目标处理结果作为所述目标服务请求对应的目标返回结果。4.根据权利要求3所述的方法，其特征在于，在所述通过目标执行器获取所述目标任务对象之后，所述方法还包括：若所述执行器监控器监控到所述目标执行器在所述目标时长内未得到所述目标处理结果，则通过所述执行器监控器调用所述执行器管理器中的刷新方法，在所述执行器容器中启用新的执行器取代所述目标执行器；所述通过目标任务对象在预设阻塞时长内，阻塞获取所述目标结果容器中的结果数据，确定出与所述目标服务请求对应的目标返回结果，包括：若所述目标任务对象在所述预设阻塞时长内，未从所述目标结果容器中获取到结果数据，则将目标超时信息作为所述目标服务请求对应的目标返回结果。5.根据权利要求3所述的方法，其特征在于，所述方法还包括：
在所述通过所述目标执行器对所述目标任务对象进行处理的过程中，若所述执行器监控器监控到所述目标执行器健康状态异常，则通过所述执行器监控器调用所述目标任务对象中的结果回写方法，将目标异常结果写入所述目标结果容器；所述通过所述目标任务对象在预设阻塞时长内，阻塞获取所述目标结果容器中的结果数据，确定出与所述目标服务请求对应的目标...

【专利技术属性】
技术研发人员：乔勇，
申请(专利权)人：北京奇艺世纪科技有限公司，
类型：发明
国别省市：