任务处理方法及其装置、计算机可读存储介质制造方法及图纸

技术编号:34287400 阅读:59 留言:0更新日期:2022-07-27 08:39
本发明专利技术公开了一种任务处理方法及其装置、计算机可读存储介质。其中,该方法包括:获取第一服务器的任务环境信息,其中,第一服务器为部署于第一服务器组中并且正在执行当前任务的服务器,任务环境信息为当前任务运行所需的环境配置信息;基于任务环境信息对第二服务器进行配置,其中,第二服务器为部署于第二服务器组中处于闲置状态的服务器,第二服务器组为第一服务器组的备用服务器组;获取当前任务的任务状态信息;当第一服务器出现异常时,将当前任务移植至第二服务器,并利用第二服务器基于任务状态信息继续执行当前任务。本发明专利技术解决了针对相关技术中异地灾备数据同步过程中时效性不足的技术问题。效性不足的技术问题。效性不足的技术问题。

【技术实现步骤摘要】
任务处理方法及其装置、计算机可读存储介质


[0001]本专利技术涉及数据处理领域,具体而言,涉及一种任务处理方法及其装置、计算机可读存储介质。

技术介绍

[0002]随着技术发展,各行业基础数据规模不断增长,面对海量数据,基于HBASE列式数据库实时查询是常用的解决方案。与此同时,信息系统对业务连续性要求越来越高,银行等金融机构因其业务的特殊性,需要对系统应用和数据进行异地灾备,当系统提供查询的数据量巨大时,既要满足快速查询检索的需求,也要保证异地灾备数据同步的时效性;此外,由于HBASE中的数据通常需要经过复杂的加工流程,并且定期跑批进行修改或新增,当故障发生时,需要实现灾备环境数据加工流程的快速切换,并且需要解决切换后作业跑批的连续性等问题。
[0003]现有方案基于HBASE+OOZIE的架构,利用Hbase的流复制功能实现灾备数据同步,但也面临着以下几点问题:
[0004](1)索引表大大增加了同步数据量,由于要对hbase进行多条件灵活查询,需要构建多张索引表,单张索引表的记录数通常与原表一致,这会造成需要同步的数据量本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种任务处理方法,其特征在于,包括:获取第一服务器的任务环境信息,其中,所述第一服务器为部署于第一服务器组中并且正在执行当前任务的服务器,所述任务环境信息为所述当前任务运行所需的环境配置信息;基于所述任务环境信息对第二服务器进行配置,其中,所述第二服务器为部署于第二服务器组中处于闲置状态的服务器,所述第二服务器组为所述第一服务器组的备用服务器组;获取所述当前任务的任务状态信息;当所述第一服务器出现异常时,将所述当前任务移植至所述第二服务器,并利用所述第二服务器基于所述任务状态信息继续执行所述当前任务。2.根据权利要求1所述的方法,其特征在于,将所述当前任务移植至所述第二服务器前,所述方法还包括:获取第三服务器的任务运行信息,其中,所述第三服务器为部署于所述第一服务器组中处于可用状态的服务器,所述任务运行信息至少包括:内存信息、CPU信息以及硬盘信息;基于所述任务运行信息从所述第三服务器中筛选出第四服务器,并将所述第三服务器中执行的所述当前任务发送给所述第四服务器;利用所述第四服务器执行所述当前任务。3.根据权利要求2述的方法,其特征在于,利用所述第四服务器执行所述当前任务之后,所述方法还包括:在确定所述第四服务器执行完所述当前任务时,通过所述第四服务器向调度服务器发送任务查询请求,其中,所述任务查询请求为查询所述第一服务器组中其他处于可用状态的服务器的任务运行信息,所述调度服务器用于接收所述任务查询请求后查询其他服务器正在执行的任务的任务运行信息;通过所述调度服务器查询所需执行的目标任务的任务运行信息;基于所述目标任务的任务运行信息进行负载均衡。4.根据权利要求1至3中任意一项所述的方法,其特征在于,所述方法还包括:获取任务逻辑信息,其中,所述任务逻辑信息表示所述任务环境信息、所述任务状态信息以及所述任务运行信息之间的逻辑关系;基于所述任务逻辑信息生成并存储基础表。5.根据权利要求4所述的方法,其特征在于,基于所述任务逻辑信息生成并存储基础表,包括:利用预定算法对所述任务逻辑信息进行处理,以获取处理后的所述任务逻辑信息,其中,所述预定算法至少包括...

【专利技术属性】
技术研发人员:祖李军肖阳阳刘伟煜王磊
申请(专利权)人:中国邮政储蓄银行股份有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1