分布式数据交换系统的作业管理方法、装置及服务器制造方法及图纸

技术编号:40536730 阅读:22 留言:0更新日期:2024-03-01 13:58
本申请涉及数据处理技术领域,特别涉及一种分布式数据交换系统的作业管理方法、装置及服务器,其中分布式数据交换系统把控多个集成引擎,方法包括以下步骤:识别目标集成引擎上运行的作业实例的作业指标和作业类型;根据作业指标和作业类型确定目标集成引擎上满足过慢运行条件的目标作业实例,将目标作业实例存储至分布式可靠存储;获取多个集成引擎中每个集成引擎的负载率,基于负载率小于预负载率的集成引擎,从分布式可靠存储中调取目标作业实例继续运行。由此,解决了相关技术无法实现任务自动切换实现资源均衡,且手动切换执行环境无法实现断点续传等问题。

【技术实现步骤摘要】

本申请涉及数据处理,特别涉及一种分布式数据交换系统的作业管理方法、装置及服务器


技术介绍

1、在大量的政府项目交付过程中,不同部门、组织、层级和区域之间的数据交换过程中会存在网络不可达情况,需要在每一个网络区域部署一套数据集成工具,将数据交换到公共缓存区。

2、目前开源的数据集成产品有很多,比如datax、kettle、flink cdc、seatunnel等,而在同一网络区域中,不同部门之间存在集成作业执行资源抢占的问题,当资源负载较高时作业之间互相影响,抽取写入性能自然也会下降,一般情况下用户发现执行缓慢的作业会手动停止并重新执行,从而影响整个交换的效率,且无法实现自动化。


技术实现思路

1、本申请提供一种分布式数据交换系统的作业管理方法、装置及服务器,以解决相关技术无法实现任务自动切换实现资源均衡,且手动切换执行环境无法实现断点续传等问题。

2、本申请第一方面实施例提供一种分布式数据交换系统的作业管理方法,所述分布式数据交换系统把控多个集成引擎,其中,所述方法包括以下步骤:识别本文档来自技高网...

【技术保护点】

1.一种分布式数据交换系统的作业管理方法,其特征在于,所述分布式数据交换系统把控多个集成引擎,其中,所述方法包括以下步骤:

2.根据权利要求1所述的分布式数据交换系统的作业管理方法,其特征在于,所述作业指标包括作业实例的读取数据量的平均值、写入数据量的平均值和整体平均值中的一个或多个,所述作业类型包括全量批作业和实时作业。

3.根据权利要求2所述的分布式数据交换系统的作业管理方法,其特征在于,所述根据所述作业指标和所述作业类型确定所述目标集成引擎上满足过慢运行条件的目标作业实例,包括:

4.根据权利要求3所述的分布式数据交换系统的作业管理方法,其特征在...

【技术特征摘要】

1.一种分布式数据交换系统的作业管理方法,其特征在于,所述分布式数据交换系统把控多个集成引擎,其中,所述方法包括以下步骤:

2.根据权利要求1所述的分布式数据交换系统的作业管理方法,其特征在于,所述作业指标包括作业实例的读取数据量的平均值、写入数据量的平均值和整体平均值中的一个或多个,所述作业类型包括全量批作业和实时作业。

3.根据权利要求2所述的分布式数据交换系统的作业管理方法,其特征在于,所述根据所述作业指标和所述作业类型确定所述目标集成引擎上满足过慢运行条件的目标作业实例,包括:

4.根据权利要求3所述的分布式数据交换系统的作业管理方法,其特征在于,所述根据所述写入数据量的平均值和所述整体平均值确定满足过慢运行条件的目标作业实例,包括:

5.根据权利要求4所述的分布式数据交换系统的作业管理方法,其特征在于,在判定所述当前作业实例不满足过慢运行条件之后,还包括:<...

【专利技术属性】
技术研发人员:揣晨熙徐颖
申请(专利权)人:杭州玖青数字科技有限公司
类型:发明
国别省市:

相关技术
    暂无相关专利
网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1