一种消息任务的批处理方法、系统、设备及介质技术方案

技术编号:40171402 阅读:26 留言:0更新日期:2024-01-26 23:41
本发明专利技术公开了一种消息任务的批处理方法、系统、设备及介质。该批处理方法获取来自业务端的批处理任务;对所述批处理任务进行分片处理,得到若干个分片任务;将若干个所述分片任务传输至消息中间件,以使得所述消息中间件将若干个所述分片任务并行分发至分片执行器中执行;其中,若干个所述分片任务,划分为所述消息中间件中的若干个类目,确定出若干个所述分片执行器,每个所述分片执行器和一个所述类目对应。该批处理方法可以有效提高批处理任务的处理效率,提高代码复用性和稳定性,有效减少进度卡顿的情况。本发明专利技术涉及任务处理技术领域。

【技术实现步骤摘要】

本专利技术涉及任务处理,尤其是一种消息任务的批处理方法、系统、设备及介质


技术介绍

1、近年来,随着互联网行业的日益发展,各厂商保有的数据量在不断增多,需要批量操作场景越来越多,因此,异步批量处理技术愈发受到各厂商的青睐。

2、目前,现有的单机异步批处理方案通常是以单机串行的方式运行,该种方式的处理速度较慢,处理效率较低;另外,通过单机串行的方式进行异步批处理,其程序代码高度耦合在一起,代码复用性较差;还有,单个批次任务在某个流程步骤执行异常,或者,服务器资源紧张导致停机时,整个批次任务就会中断,进度卡顿,服务稳定性较低。

3、因此,现有技术存在的问题还亟需解决和优化。


技术实现思路

1、本专利技术的目的在于至少一定程度上解决相关技术中存在的技术问题之一。

2、为此,本专利技术实施例的第一个目的在于提供一种消息任务的批处理方法,该方法可以有效提高批处理任务的处理效率,提高代码复用性和稳定性,有效减少进度卡顿的情况。

3、本申请实施例的第二个目的在于提供一种消息本文档来自技高网...

【技术保护点】

1.一种消息任务的批处理方法,其特征在于,用于分片生成器,所述批处理方法包括:

2.根据权利要求1所述的消息任务的批处理方法,其特征在于,所述对所述批处理任务进行分片处理,得到若干个分片任务,包括:

3.根据权利要求1所述的消息任务的批处理方法,其特征在于,所述批处理方法还包括:

4.一种消息任务的批处理方法,其特征在于,用于分片执行器,所述批处理方法包括:

5.根据权利要求4所述的消息任务的批处理方法,其特征在于,所述执行消息中间件并行分发的分片任务,包括:

6.根据权利要求5所述的消息任务的批处理方法,其特征在于,所述批处理...

【技术特征摘要】

1.一种消息任务的批处理方法,其特征在于,用于分片生成器,所述批处理方法包括:

2.根据权利要求1所述的消息任务的批处理方法,其特征在于,所述对所述批处理任务进行分片处理,得到若干个分片任务,包括:

3.根据权利要求1所述的消息任务的批处理方法,其特征在于,所述批处理方法还包括:

4.一种消息任务的批处理方法,其特征在于,用于分片执行器,所述批处理方法包括:

5.根据权利要求4所述的消息任务的批处理方法,其特征在于,所述执行消息中间件并行分发的分片任务,包括:

6....

【专利技术属性】
技术研发人员:汪宗叶
申请(专利权)人:广州今之港教育咨询有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1