【技术实现步骤摘要】
请求响应方法、系统、计算机系统和可读存储介质
本公开涉及计算机
,更具体地,涉及一种请求响应方法、一种请求响应系统、一种计算机系统和一种计算机可读存储介质。
技术介绍
智能应答系统较为常见的应用场景,是作为智能客服为客户提供在线应答。而在智能客服场景中,智能应答系统中的会话管理决策、应答决策树的判断、答案的组装等,一般需要通过调用各种外部业务接口来实现。例如:为了实现给出不同订单状态下的有效应答,需要查询用户订单状态,此时调用的常见外部接口包括:用户信息查询接口、订单查询接口、物流查询接口等。在实现本公开构思的过程中,专利技术人发现相关技术中至少存在如下问题:外部接口调用并发量较大,导致对网络资源和外部系统的系统资源消耗大。
技术实现思路
有鉴于此,本公开提供了一种请求响应方法、一种请求响应系统、一种计算机系统和一种计算机可读存储介质。本公开的一个方面提供了一种请求响应方法,包括:获得用于请求调用外部接口的一个或多个请求;启动延时任务,将上述一个或多个请求存入任务队列中;在上述延时任 ...
【技术保护点】
1.一种请求响应方法,包括:/n获得用于请求调用外部接口的一个或多个请求;/n启动延时任务,将所述一个或多个请求存入任务队列中;/n在所述延时任务达到延时时长后,对所述任务队列中的一个或多个请求进行响应,触发外部接口调用;以及/n接收来自所述外部接口的返回结果。/n
【技术特征摘要】
1.一种请求响应方法,包括:
获得用于请求调用外部接口的一个或多个请求;
启动延时任务,将所述一个或多个请求存入任务队列中;
在所述延时任务达到延时时长后,对所述任务队列中的一个或多个请求进行响应,触发外部接口调用;以及
接收来自所述外部接口的返回结果。
2.根据权利要求1所述的方法,其中,启动延时任务,将所述一个或多个请求存入任务队列中包括:
确定每个请求对应的外部接口;以及
将用于请求调用相同外部接口的请求蓄流到同一任务队列中,其中,不同任务队列针对不同的外部接口。
3.根据权利要求2所述的方法,还包括:
创建与所述每个请求对应的外部接口对应的延时任务;以及
确定与所述外部接口对应的延时任务的延时时长。
4.根据权利要求3所述的方法,其中,所述确定与所述外部接口对应的延时任务的延时时长包括:
根据所述外部接口的实际请求量和所述外部接口的请求量阈值动态调整与所述外部接口对应的延时任务的延时时长。
5.根据权利要求2所述的方法,其中,所述不同任务队列中的每个任务队列包括不同处理级别的子队列,每个子队列设置有对应的阈值范围;
所述将用于请求调用相同外部接口的请求蓄流到同一任务队列中包括:
确定用于请求调用相同外部接口的每个请求的权值;以及
根据所述每个请求的权值与所述每个子队列对应的阈值范围,将所述每个请求分配到同一任务队列的子队列中。
6.根据权利要求5所述的方法,其中,所述确定用于请求调用相同外部接口的每个请求的权值包括:
根据所述相同外部接口的平均响应时长、所述每个请求所调用的特征的平均响应时长和所述特征的总调用次数确定所述每个请求的权值。
7.根据权利要求1所述的方法,其中,所述在所述延时任务达到延时时长后,对所述任务队列中的一个或多个请求进行响应,触发外部接口调用包括:
在所述延时任务达到延时时长后,触发批处理外部接口调用,以实现对所述任务队列中的请求进行批处理。
8.根据权利要求1所述的方法,...
【专利技术属性】
技术研发人员:马浩,
申请(专利权)人:北京沃东天骏信息技术有限公司,北京京东世纪贸易有限公司,
类型:发明
国别省市:北京;11
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。