【技术实现步骤摘要】
一种任务监控方法、装置、设备及存储介质
[0001]本专利技术涉及信息处理
,更具体地说,涉及一种任务监控方法、装置、设备及存储介质。
技术介绍
[0002]当使用Flink作为处理引擎,编写一个Flink任务来处理数据时,一般会从多个数据来源抽取数据,同时对于某一个数据源,也会设置多个并行度来提高从当前数据源获取数据的速度。在这种情况下,不同的Flink任务基本是分布在不同实体机的不同JVM中的;而Flink本身提供的度量统计数据是算子的单个并行任务的数据,当想要了解整个任务接收或者输出了多少数据等情况的时候,则是没有办法进行相应的统计分析等。
技术实现思路
[0003]本专利技术的目的是提供一种任务监控方法、装置、设备及存储介质,能够对Flink任务运行过程中的情况进行监控,便于需要了解整个Flink任务情况时进行相应的统计分析等操作。
[0004]为了实现上述目的,本专利技术提供如下技术方案:
[0005]一种任务监控方法,包括:
[0006]定时遍历预先保存的全部度量指标 ...
【技术保护点】
【技术特征摘要】
1.一种任务监控方法,其特征在于,包括:定时遍历预先保存的全部度量指标实例,并在每次遍历全部度量指标实例时获取各度量指标实例当前的值;其中,任意度量指标实例的值为基于相应Flink任务在运行过程中产生的各度量指标的指标数据进行分析得到的;在每次获取遍历的各度量指标实例当前的值后,将各度量指标实例及各度量指标实例当前的值进行统一包装得到相应的任务数据;将所述任务数据发送至预先设置的数据库中进行存储,以供通过对所述数据库中的数据进行查询实现对相应Flink任务的监控。2.根据权利要求1所述的方法,其特征在于,预先保存所述度量指标实例,包括:确定任意Flink任务在运行过程中需要获取相应指标数据的各度量指标;基于该任意Flink任务对应的各度量指标构建并保存相应的度量指标实例;其中,同一度量指标实例对应的各度量指标按照被检索的可能性越大越靠前的方式排列。3.根据权利要求2所述的方法,其特征在于,构建度量指标实例,包括:构建与各Flink任务中任意Flink任务的各度量指标对应的度量指标实例,将各度量指标实例以一一对应的关系分别映射到同种类的不同javabean中,并在各javabean中存储所映射的度量指标实例对应的各度量指标。4.根据权利要求3所述的方法,其特征在于,将各度量指标实例及各度量指标实例当前的值进行统一包装得到相应的任务数据,包括:确定各度量指标实例为当前实例,将当前时间、当前实例对应各度量指标及当前实例当前的值统一包装成相应任务数据。5.根据权利要求4所述的方法,其特征在于,将所述任务数...
【专利技术属性】
技术研发人员:许涛,范渊,刘博,
申请(专利权)人:杭州安恒信息技术股份有限公司,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。