支持多种编程语言的任务调度装置和方法制造方法及图纸

技术编号:20221529 阅读:27 留言:0更新日期:2019-01-28 20:07
本发明专利技术公开了支持多种编程语言的任务调度装置和方法,涉及计算机技术领域。该装置的一具体实施方式包括:数据库,用于存储任务的任务元;任务调度模块,用于抓取数据库中的到期的任务的任务元,并发送给任务控制模块;任务控制模块,启动用户空间中的与任务元对应的任务;其中,任务元包括唯一标识一个任务的任务标识ID;任务的任务粒度为进程。该实施方式能够避免任务编写的语言对系统编写的语言的依赖,达到可以使用多种编程语言编写调度任务的技术效果。

【技术实现步骤摘要】
支持多种编程语言的任务调度装置和方法
本专利技术涉及计算机
,尤其涉及一种支持多种编程语言的任务调度装置和方法。
技术介绍
大数据发展到今天,已经变成一个庞大的产业。大数据的流程基本可以分为以下步骤:采集->清洗处理->基础库->产品应用,目前大数据所提供的平台基本上都集中在:采集->清洗处理->基础库这个阶段。现实应用中经常需要对基础数据进行加工与转换来适应不同的产品需求。基础表的数据量一般都相当庞大,在线请求很难在几百个毫秒内计算出来,因此不适合在基础表上直接开发产品,需要对基础数据表进行进一步的加工抽取、分库分表,然后再应用于产品。现有技术中通常采用mapreduce机制或Storm机制对分解重构后的基础表进行调度。专利技术人发现现有技术中至少存在如下问题:1)只能使用Java语言进行编写,对不熟悉Java的程序员来说受到了一定限制,不够灵活;2)平台环境庞大,需要一定的人力成本来维护分布式文件系统及调度系统hadoop或者流式任务调度系统storm的集群;3)无调度监控,调度任务的进度等无法知悉;4)本文档来自技高网...

【技术保护点】
1.一种支持多种编程语言的任务调度装置,其特征在于,包括:数据库,用于存储任务的任务元;任务调度模块,用于抓取所述数据库中的到期的任务的任务元,并发送给任务控制模块;任务控制模块,启动用户空间中的与所述任务元对应的任务;其中,所述任务元包括唯一标识一个任务的任务标识ID;所述任务的任务粒度为进程。

【技术特征摘要】
1.一种支持多种编程语言的任务调度装置,其特征在于,包括:数据库,用于存储任务的任务元;任务调度模块,用于抓取所述数据库中的到期的任务的任务元,并发送给任务控制模块;任务控制模块,启动用户空间中的与所述任务元对应的任务;其中,所述任务元包括唯一标识一个任务的任务标识ID;所述任务的任务粒度为进程。2.如权利要求1所述的任务调度装置,其特征在于,所述用户空间为Linux用户空间,任意两个所述用户空间中的任务之间隔离。3.如权利要求1所述的任务调度装置,其特征在于,所述任务元包括以下至少之一:所述任务对应的用户、所述任务在所述用户空间的存储路径、启动命令、启动时间、结束时间、任务状态、执行进度、任务状态上报次数。4.如权利要求3所述的任务调度装置,其特征在于,所述任务调度模块基于所述任务的任务状态和/或执行进度,判断所述任务是否为到期的任务。5.如权利要求3所述的任务调度装置,其特征在于,所述任务控制模块包括以下至少之一:第一接口、第二接口和第三接口,用于接收所述任务上报的任务状态和/或执行进度;其中,第一接口,由所述任务在被启动时调用;第二接口,由所述任务在执行过程中调用;第三接口,由所述任务在执行结束时调用。6.如权利要求5所述的任务调度装置,其特征在于,所述任务控制模块进一步用于:依据所述任务的任务状态和/或执行进度,更新所述数据库中的所述任务的任务元。7.如权利要求1所述的任务调度装置,其特征在于,进一步包括:用户管理模块,用于创建和/或编辑所述任务,并将所述任务的执行代码上传至所述用户空间、将所述任务的任务元上传至所述数据库。8.如权利要求7所述的任务调度装置,其特征在于,所述用户管理模块进一步用于:接收用户的任务查询请求;基于所述任务查询请求查询所述数据库,获取所述任务的任务状态/或执行进度;将所述任务的任务状态和/或执行进度反馈给用户。9.如权利要求1所述的任务调度装置,其特征在于,所述任务控制模块采用网页服务器WebServer实现;和/或,所述数据库采用关系型数据库mysql实现。10.如权利要求9所述的任务调度装置,其特征在于,所述任务控制模块采用网页服务器Nginx和脚本语言lua实现。11.一种支持多种编程语言的任务调度方法,其特征在于包括如下步骤:任务调度模块从数据库中抓取到期的任务的任务元,并发送给任务控制模块;任务控制模块启动用户空间中的与所述任务元对应的任务;其中...

【专利技术属性】
技术研发人员:安海雄
申请(专利权)人:北京京东尚科信息技术有限公司北京京东世纪贸易有限公司
类型:发明
国别省市:北京,11

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1