一种分布式系统的数据调度方法及装置制造方法及图纸

技术编号:46576472 阅读:1 留言:0更新日期:2025-10-10 21:19
本申请提供了一种分布式系统的数据调度方法及装置,所述分布式系统包括中间件和至少两个计算节点;所述中间件中配置有至少两个标识,所述标识与所述计算节点之间存在唯一映射关系,标识中包括状态参数,所述状态参数用于表征对应计算节点的状态信息;所述数据调度方法包括:通过所述中间件的标识获取计算节点的状态信息;根据所述状态信息确定用于执行至少一个待处理计算任务的目标计算节点;将所述至少一个待处理计算任务分配给所述目标计算节点,并更新与所述目标计算节点相应的标识的状态参数。这样,能够通过中间件明确各个任务的生命周期,减少实时读取节点状态的通信用时,实现任务的合理分配,减少节点的空置时间。

【技术实现步骤摘要】

本申请涉及分布式,尤其是涉及一种分布式系统的数据调度方法及装置


技术介绍

1、在分布式系统中,需要保证各个计算节点的负载均衡,才能最大化分布式系统的处理效能。为了实现负载均衡,现有的分布式系统的中间件充当任务存储的持久化队列,由计算节点在完成前一个任务之后,立即再次主动从任务队列拉取任务来实现各个节点的负载均衡和资源利用最大化,降低算法服务的空置时间。

2、然而,这种由节点主动拉取任务的模式在复杂请求场景下,对任务管理和中间件性能提出了更多的挑战:比如在任务高峰时段,各个节点相互竞争任务,出现资源竞争和全局资源失调问题,而在任务低谷期,各个节点在拉取空任务队列上浪费大量资源,造成大量的通信资源浪费,还会导致负载倾斜、资源利用率大幅度波动、分布节点管理脱节的问题,同时增加了中间件的运行压力,中间件的容灾和运维也需要额外的复杂配置。


技术实现思路

1、有鉴于此,本申请的目的在于提供一种分布式系统的数据调度方法及装置,以解决现有技术中由节点主动拉取任务导致的任务管理以及资源利用不合理,中间件运行压力大本文档来自技高网...

【技术保护点】

1.一种分布式系统的数据调度方法,其特征在于,所述分布式系统包括中间件和至少两个计算节点;所述中间件中配置有至少两个标识,所述标识与所述计算节点之间存在唯一映射关系,标识中包括状态参数,所述状态参数用于表征对应计算节点的状态信息;所述数据调度方法包括:

2.根据权利要求1所述的数据调度方法,其特征在于,所述分布式系统包括多层级构筑的调度结构,所述调度结构最下层包括至少一个计算结构,所述至少两个计算节点被配置于至少一个计算结构中;所述中间件中的标识为多层级结构,所述调度结构的层级与标识的层级存在唯一映射关系。

3.根据权利要求2所述的数据调度方法,其特征在于,所述调...

【技术特征摘要】

1.一种分布式系统的数据调度方法,其特征在于,所述分布式系统包括中间件和至少两个计算节点;所述中间件中配置有至少两个标识,所述标识与所述计算节点之间存在唯一映射关系,标识中包括状态参数,所述状态参数用于表征对应计算节点的状态信息;所述数据调度方法包括:

2.根据权利要求1所述的数据调度方法,其特征在于,所述分布式系统包括多层级构筑的调度结构,所述调度结构最下层包括至少一个计算结构,所述至少两个计算节点被配置于至少一个计算结构中;所述中间件中的标识为多层级结构,所述调度结构的层级与标识的层级存在唯一映射关系。

3.根据权利要求2所述的数据调度方法,其特征在于,所述调度结构和所述标识的多层级结构为树形结构;状态参数包括以下各项中的至少一项:对应计算结构中已被任务占用的计算节点数量、未被任务占用的计算节点数量、已被任务占用的计算节点比例、未被任务占用的计算节点比例以及计算节点的计算性能。

4.根据权利要求2所述的数据调度方法,其特征在于,根据所述状态信息确定用于执行至少一个待处理...

【专利技术属性】
技术研发人员:金泽宇孙殿竣保岭烨
申请(专利权)人:上海稀宇科技有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1