System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 一种数据处理请求的处理方法和装置制造方法及图纸_技高网

一种数据处理请求的处理方法和装置制造方法及图纸

技术编号:41381812 阅读:5 留言:0更新日期:2024-05-20 10:23
本公开实施例提供一种数据处理请求的处理方法和装置,涉及数据处理技术领域。该方法的具体实施方式包括:接收一个或多个数据处理请求;根据数据处理请求的请求信息,确定数据处理请求的目标分组;将数据处理请求分别添加至目标分组的全局队列和延迟队列;根据目标分组的优先级和下游的服务资源,为数据处理请求分配目标服务实例,从目标分组的全局队列和延迟队列中消费数据处理请求,并将数据处理请求异步发送至目标服务实例执行。该实施方式能够确保服务资源的高效利用、避免有限资源被长时间占用,灵活地管理和分配连接资源,缩短请求响应时间、提高处理速度和响应性能,从而提升系统响应效率、运行稳定性和用户体验。

【技术实现步骤摘要】

本公开涉及数据处理,尤其涉及一种数据处理请求的处理方法和装置


技术介绍

1、随着计算机技术的快速发展,数据处理请求不断激增,现有的数据处理请求的处理过程中,通常由客户端与网关连接、向网关发起数据处理请求,网关为数据处理请求分配线程,再发送给下游的服务资源。然而,由于线程数有限、各个请求需要的服务资源大小不一,一旦服务资源不足,线程会被请求长时间占用,无法连接其它的紧急请求,导致连接资源利用率低下,用户长时间等待却未得到响应,使用体验较差、投诉和流失严重。

2、为了保证数据处理请求的及时响应,通常会引入消息队列对数据处理请求进行整理,再分配至服务实例执行,常用的消息队列工具包括kafka、beanstalkd、disruptor等。

3、然而,kafka通过将消息写入磁盘或者从磁盘读取消息实现持久化,但是kafka作为消息队列过于庞大,架构逻辑复杂,每个消息的队列进出耗时较长,导致请求处理速度较慢、性能低下,需要消耗的计算资源较高;数据处理请求的类型正在朝向多样化发展,导致各式数据处理请求的处理耗时长短不一,beanstalkd并不存在最大内存控制用以限制服务实例的大小,导致耗时长的数据处理请求长时间占用多个服务实例,无法及时释放可用资源,服务稳定性差;disruptor仅能适用于消息量较少的场景,无法处理海量的数据处理请求。


技术实现思路

1、有鉴于此,本公开实施例提供一种数据处理请求的处理方法和装置,能够解决连接资源未合理分配、有限资源被长时间占用,请求响应时间过长、处理速度慢且性能低下,进而导致系统响应效率和运行稳定性较差的问题。

2、为实现上述目的,根据本公开的一方面,提供了一种数据处理请求的处理方法,包括:

3、接收一个或多个数据处理请求;

4、根据所述数据处理请求的请求信息,确定所述数据处理请求的目标分组;

5、将所述数据处理请求分别添加至所述目标分组的全局队列和延迟队列;

6、根据所述目标分组的优先级和下游的服务资源,为所述数据处理请求分配目标服务实例,从所述目标分组的全局队列和延迟队列中消费所述数据处理请求,并将所述数据处理请求异步发送至所述目标服务实例执行。

7、根据本公开的另一方面,提供了一种数据处理请求的处理装置,包括:

8、接收模块,用于接收一个或多个数据处理请求;

9、分组模块,用于根据所述数据处理请求的请求信息,确定所述数据处理请求的目标分组;

10、队列模块,用于将所述数据处理请求分别添加至所述目标分组的全局队列和延迟队列;

11、消费模块,用于根据所述目标分组的优先级和下游的服务资源,为所述数据处理请求分配目标服务实例,从所述目标分组的全局队列和延迟队列中消费所述数据处理请求,并将所述数据处理请求异步发送至所述目标服务实例执行。

12、根据本公开的再一方面,提供了一种电子设备,包括:

13、处理器;以及

14、存储程序的存储器,

15、其中,所述程序包括指令,所述指令在由所述处理器执行时使所述处理器执行所述数据处理请求的处理方法。

16、根据本公开实施例的还一个方面,提供了一种存储有计算机指令的非瞬时计算机可读存储介质,其中,所述计算机指令用于使所述计算机执行所述数据处理请求的处理方法。

17、本申请实施例中提供的一个或多个技术方案,通过引入不同优先级的分组的全局队列和延迟队列进行缓冲,可以实现从接收请求直至发送至目标实例的整个处理流程皆采用全程异步非阻塞的方式,避免了下游处理耗时不稳定引发的整体效率和稳定性降低,极大地减少了不必要的等待时间,充分利用计算资源,使系统得以稳定运行,提高用户的使用体验;并且,对于不同分组采用限流逻辑,不立即拒绝访问,在请求超时之前智能决策,充分考虑服务资源、请求成功率和请求性能,智能地应对请求流量的涨跌,提高系统的鲁棒性和可用性,实现请求的毫秒级流量缓冲机制,相较于现有的队列工具大大缩短队列耗时的技术效果。

本文档来自技高网...

【技术保护点】

1.一种数据处理请求的处理方法,其特征在于,包括:

2.如权利要求1所述的处理方法,其特征在于,所述根据所述数据处理请求的请求信息,确定所述数据处理请求的目标分组,包括:

3.如权利要求2所述的处理方法,其特征在于,所述根据请求方类型、请求方备注、来源业务线、和/或请求紧急度中的至少一者,确定所述数据处理请求的请求等级,包括:

4.如权利要求1所述的处理方法,其特征在于,所述根据所述目标分组的优先级和下游的服务资源,为所述数据处理请求分配目标服务实例,包括:

5.如权利要求4所述的处理方法,其特征在于,在所述目标分组非高优先级的情况下,根据所述目标分组的优先级和各个分组的请求数阈值,确定所述数据处理请求的响应方式。

6.如权利要求5所述的处理方法,其特征在于,所述根据所述目标分组的优先级和各个分组的请求数阈值,确定所述数据处理请求的响应方式,包括:

7.如权利要求6所述的处理方法,其特征在于,所述请求数阈值包括第一阈值、第二阈值和第三阈值;所述判断所述全局请求数之和是否超过所述目标分组对应的请求数阈值,包括:

8.如权利要求6所述的处理方法,其特征在于,还包括:

9.一种数据处理请求的处理装置,其特征在于,包括:

10.一种电子设备,包括:

11.一种存储有计算机指令的非瞬时计算机可读存储介质,其中,所述计算机指令用于使所述计算机执行根据权利要求1-8中任一项所述的数据处理请求的处理方法。

...

【技术特征摘要】

1.一种数据处理请求的处理方法,其特征在于,包括:

2.如权利要求1所述的处理方法,其特征在于,所述根据所述数据处理请求的请求信息,确定所述数据处理请求的目标分组,包括:

3.如权利要求2所述的处理方法,其特征在于,所述根据请求方类型、请求方备注、来源业务线、和/或请求紧急度中的至少一者,确定所述数据处理请求的请求等级,包括:

4.如权利要求1所述的处理方法,其特征在于,所述根据所述目标分组的优先级和下游的服务资源,为所述数据处理请求分配目标服务实例,包括:

5.如权利要求4所述的处理方法,其特征在于,在所述目标分组非高优先级的情况下,根据所述目标分组的优先级和各个分组的请求数阈值,确定所述数据处理请求的响应...

【专利技术属性】
技术研发人员:王瀚祺马涛徐健赵辉王京李晓亮
申请(专利权)人:度小满科技北京有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1