The invention provides a method and device for distributed task scheduling method based on event trigger, which relates to the technical field of data processing, the task scheduling module uses the monitor mode to receive a distributed task queue module task request message, and parses the task request message, task registration message, task execution time and rely on the registration message whether meets the preset trigger conditions, and in accordance with the situation, according to the registration message task type task task execution message, send a message to the execution of the task execution module, execution module to make the task execution message for execution, and the execution state and execution log. The invention can improve the ability of high concurrent task scheduling, effectively save server resources and meet the requirements of large data real-time task scheduling.
【技术实现步骤摘要】
基于事件触发的分布式任务调度方法及装置
本专利技术涉及数据处理
,尤其是涉及基于事件触发的分布式任务调度方法及装置。
技术介绍
消息技术与经济社会的交汇融合引发了数据迅猛增长,数据已成为国家基础性战略资源。中国‘十三五’发展规划中明确要求实施国家大数据战略,推进数据资源开放共享。国务院印发的《促进大数据发展行动纲要》也要求大力推动政府部门数据共享,稳步推动公共数据资源开放,统筹规划大数据基础设施建设。作为大数据基础设施软件建设之一的任务调度系统,对任务的并发能力,任务调度的处理性能等提出了更高要求。而传统的任务调度系统主要采用基于时间的定时任务调度方法,不管任务执行的依赖关系是否满足,只要满足时间点,就必须触发任务执行,在执行过程中再轮询判断依赖条件,这样导致大量的服务器资源浪费,性能低下,并且无法满足大数据实时的任务调度要求。
技术实现思路
有鉴于此,本专利技术的目的在于提供基于事件触发的分布式任务调度方法及装置,以提升高并发的任务调度能力,有效的节约服务器资源,满足大数据实时任务调度要求。第一方面,本专利技术实施例提供了一种基于事件触发的分布式任务调度方法, ...
【技术保护点】
一种基于事件触发的分布式任务调度方法,其特征在于,应用于任务调度引擎模块,所述方法包括:对分布式任务队列模块进行监听,得到监听消息;根据所述监听消息判断所述分布式任务队列模块在采用主从分布式消息架构下是否存在任务请求消息;如果存在,则向所述分布式任务队列模块发送调用消息,以使所述分布式任务队列模块采用先进先出的消息队列方式发送所述任务请求消息;接收所述分布式任务队列模块发送的所述任务请求消息,并对所述任务请求消息进行解析,得到任务注册消息;判断所述任务注册消息的执行时间和依赖关系是否符合预设触发条件;如果符合,则根据所述任务注册消息的任务类型得到任务执行消息;将所述任务执行 ...
【技术特征摘要】
1.一种基于事件触发的分布式任务调度方法,其特征在于,应用于任务调度引擎模块,所述方法包括:对分布式任务队列模块进行监听,得到监听消息;根据所述监听消息判断所述分布式任务队列模块在采用主从分布式消息架构下是否存在任务请求消息;如果存在,则向所述分布式任务队列模块发送调用消息,以使所述分布式任务队列模块采用先进先出的消息队列方式发送所述任务请求消息;接收所述分布式任务队列模块发送的所述任务请求消息,并对所述任务请求消息进行解析,得到任务注册消息;判断所述任务注册消息的执行时间和依赖关系是否符合预设触发条件;如果符合,则根据所述任务注册消息的任务类型得到任务执行消息;将所述任务执行消息发送给执行模块,以使所述执行模块对所述任务执行消息进行执行,并得到执行状态和执行日志。2.根据权利要求1所述的基于事件触发的分布式任务调度方法,其特征在于,所述方法还包括:接收所述执行模块发送的所述执行日志和对所述执行状态进行判断得到的执行结果;对所述执行结果和所述执行日志进行记录;将所述执行结果通过所述分布式任务队列模块发送给任务接入模块,以使所述任务接入模块根据所述执行结果判断任务执行是否完成,并在完成的情况下将所述执行结果反馈给任务请求方。3.根据权利要求1所述的基于事件触发的分布式任务调度方法,其特征在于,所述以使所述执行模块对所述任务执行消息进行执行,并得到执行状态和执行日志包括:以使所述执行模块根据所述任务执行消息对执行程序进行调用,得到指令消息,并根据所述指令消息对所述任务执行消息进行执行,得到所述执行状态和所述执行日志。4.根据权利要求1所述的基于事件触发的分布式任务调度方法,其特征在于,所述任务类型包括定时任务,所述根据所述任务注册消息的任务类型得到任务执行消息包括:根据所述任务注册消息的任务类型为所述定时任务,按照定时模式得到所述任务执行消息。5.根据权利要求1所述的基于事件触发的分布式任务调度方法,其特征在于,所述任务类型还包括事件任务,所述根据所述任务注册消息的任务类型得到任务执行消息包括:根据所述任务注册消息的任务类型为所述事件任务,按照事件模式得到所...
【专利技术属性】
技术研发人员:李贵生,谢远勇,汪钦堤,
申请(专利权)人:福建智恒软件科技有限公司,
类型:发明
国别省市:福建,35
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。