【技术实现步骤摘要】
数据处理方法、装置、计算机设备和存储介质
[0001]本申请涉及大数据
,特别是涉及一种数据处理方法、装置、计算机设备、存储介质和计算机程序产品。
技术介绍
[0002]在某些场景下,银行运营系统需向对接的各第三方系统发送大量通信消息。如银行运营系统发放第三方平台的权益或虚拟资源(如购物平台优惠券)的场景,用户通过银行运营系统的应用程序(如手机银行)领取到第三方平台的权益后,银行运营系统需向各第三方系统发送各用户对应的通信消息,指示第三方系统进行处理(如记录该用户对应的虚拟资源,以便用户在该第三方平台顺利使用)。随着分布式技术在银行运营系统的运用,当前银行运营系统具有较高的并发吞吐能力。
[0003]相关技术中,银行运营系统可以将各用户对应的通信消息存放至分布式消息队列中,然后以一定的数据传输速度,从分布式消息队列中读取通信消息,并传输至对应的第三方系统进行处理。
[0004]然而,由于各第三方系统的处理能力不一,若银行运营系统采用的数据传输速度大于部分第三方系统的处理能力,容易导致该第三方系统雪崩、无 ...
【技术保护点】
【技术特征摘要】
1.一种数据处理方法,其特征在于,所述方法包括:响应于数据传输指令,根据消息分拣参数,从目标分布式消息队列中读取多个第一通信消息,并将读取出的各第一通信消息分配至各第三方系统对应的本地队列中;针对每个所述本地队列,根据所述本地队列对应的数据传输参数,从所述本地队列中读取第二通信消息,并将读取出的第二通信消息发送至所述本地队列对应的第三方系统;所述本地队列对应的数据传输参数是根据所述本地队列对应的第三方系统的处理能力参数确定的。2.根据权利要求1所述的方法,其特征在于,所述第三方系统的处理能力参数包括单位时间内的事务处理量,所述消息分拣参数包括第一时间窗和第一时间窗内的目标读取数量;所述方法还包括:获取各第三方系统的单位时间内的事务处理量,并计算各所述单位时间内的事务处理量的和值;基于所述和值、分布式系统的处理节点的数量和预设的第一时间窗,确定所述第一时间窗内的目标读取数量。3.根据权利要求2所述的方法,其特征在于,所述根据消息分拣参数,从目标分布式消息队列中读取多个第一通信消息,并将读取出的各第一通信消息分配至各第三方系统对应的本地队列中,包括:在当前时间达到当前第一时间窗的起始时间的情况下,从目标分布式消息队列中读取所述目标读取数量个第一通信消息;根据读取出的各第一通信消息包含的特征信息,确定各所述第一通信消息对应的第三方系统,并基于各所述第一通信消息对应的第三方系统,将各所述第一通信消息分配至各第三方系统对应的本地队列中。4.根据权利要求1所述的方法,其特征在于,所述第三方系统的处理能力参数包括单位时间内的事务处理量,所述数据传输参数包括第二时间窗和第二时间窗内的目标传输数量;所述方法还包括:针对每个所述本地队列,获取所述本地队列对应的第三方系统的单位时间内的事务处理量;根据所述第三方系统的单位时间内的事务处理量和分布式系统的处理节点的数量,确定所述本地队列对应的单位时间内的事务处理量;基于所述本地队列对应的单位时间内的事务处理量和预设的第二时间窗,确定所述本地队列对应的第二时间窗内的目标传输数量。5.根据权利要求4所述的方法,其特征在于,所述针对每个所述本地队列,根据所述本地队列对应的数据传输参数,从所述本地队列中读取第二通信消息,并将读取出的第二通信消息发送至所述本地队列对应的第三方系统,包括:针对每个所述本地队列,在当前时间达到所述本地队列对应的当前第二时间窗的起始时间的情况下,从所述本地队列中读取所述目标传输数量个第二通信消息,并将读取出的第二通信消息发送至所述本地队列对应的第三方系统。6.根据权利要求1至5中任一项所述的方法,其特征在于,所述数据传输参数包括第二时间窗和第二时间窗内的目标传输数量;所述针对每个所述本地队列,根据所述本地队列
...
【专利技术属性】
技术研发人员:张宏根,胡凯乐,刘金凤,雷琼,
申请(专利权)人:中国工商银行股份有限公司,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。