一种基于资源协同感知的Storm流计算动态调度方法技术

技术编号:45947272 阅读:9 留言:0更新日期:2025-07-29 17:50
本发明专利技术公开了一种基于资源协同感知的Storm流计算动态调度方法,针对Storm默认调度算法在节点异常、资源波动及重调度场景下性能下降的问题,提出以下技术方案:首先,通过实时监控模块动态感知节点繁忙、宕机及数据流波动事件,触发重调度流程;其次,基于历史任务实例资源需求、节点性能指标及通信开销,构建资源协同优化模型,以最小化节点间通信成本为目标,结合CPU/内存动态阈值约束生成任务实例分配方案;进一步,采用贪心算法对高关联性任务实例进行排序,优先分配至历史性能最优节点,并确保节点资源利用率不超过动态阈值;同时,通过时间窗口平滑处理实时修正节点负载均衡参数,更新剩余资源状态;最终输出优化后的拓扑划分结果,显著降低重调度后的系统延迟,提升吞吐量。本发明专利技术通过资源协同建模、历史数据驱动的动态调度及负载均衡优化,实现异构集群的快速恢复与稳定运行。

【技术实现步骤摘要】

本专利技术属于分布式流计算,具体涉及一种基于资源协同感知的storm流计算动态调度方法,用于解决异构集群中节点资源波动、任务实例重调度性能下降及多维度资源约束下的协同优化问题。


技术介绍

1、随着物联网、金融交易、实时监控等场景的快速发展,分布式流计算系统成为处理高速、连续数据流的核心基础设施。apache storm作为开源流处理框架的代表,凭借其低延迟、高可靠性的特点,被广泛应用于实时数据分析、复杂事件处理等场景。storm通过将计算任务实例抽象为拓扑(topology),将数据流拆分为多个任务实例实例(任务实例)并行处理,但其默认调度策略基于静态资源分配逻辑,仅根据预设的任务实例槽(slot)数量进行任务实例分发,缺乏对动态资源需求的实时感知能力。在实际生产环境中,数据流的吞吐量往往呈现显著波动,例如电商大促期间的流量激增或物联网设备的突发数据上报,而节点资源状态(如cpu过载、内存耗尽、网络拥塞)也可能因硬件故障或负载不均发生突变。此类动态变化导致静态调度策略难以维持系统稳定性——当节点因资源过载宕机时,系统需重新划分任务实例拓扑,但因调度器未结合本文档来自技高网...

【技术保护点】

1.一种基于资源协同感知的Storm流计算动态调度方法,其特征在于,包括以下步骤:

2.根据权利要求1所述的方法,资源协同优化模型的目标函数为最小化节点间通信成本,表示为:

3.根据权利要求1所述的方法,步骤S2中所述节点性能指标的计算公式为:

4.根据权利要求1所述的方法,步骤S3中任务实例关联性通过历史数据中的通信开销Eij评估,优先将Eij高的任务实例分配至同一节点,以减少节点间通信延迟。

5.根据权利要求1所述的方法,步骤S4中所述动态阈值调整具体包括:

6.根据权利要求1所述的方法,步骤S5中所述性能恢复的具体指标为:...

【技术特征摘要】

1.一种基于资源协同感知的storm流计算动态调度方法,其特征在于,包括以下步骤:

2.根据权利要求1所述的方法,资源协同优化模型的目标函数为最小化节点间通信成本,表示为:

3.根据权利要求1所述的方法,步骤s2中所述节点性能指标的计算公式为:

4.根据权利要求1所述的方法,步骤s3中任务实例关联性通过历史数据中的通信开销eij...

【专利技术属性】
技术研发人员:李鸿健王舒恒谭港凡李佳芯
申请(专利权)人:重庆邮电大学
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1