一种时延数据的处理方法、装置及设备制造方法及图纸

技术编号:37235212 阅读:36 留言:0更新日期:2023-04-20 23:17
本说明书实施例中公开了一种时延数据的处理方法、装置及设备。包括:获取流计算任务的各个子任务的时延数据,关联存储子任务的时延数据与子任务的预设标签,将与任一种预设标签关联存储的时延数据划分为一组,得到各个第一时延数据序列。根据预设规则,对至少部分第一时延数据序列中包含的时延数据进行处理,得到目标设备针对流计算任务进行分析处理所需的目标时延数据。该方案通过标签的形式对各个时延数据进行记录,且向目标设备提供的时延数据为根据一定数量的实时时延数据进行相关处理后得到的时延数据,以提升对时延数据进行记录的简捷性及提升目标设备对时延数据进行分析的效率。的效率。的效率。

【技术实现步骤摘要】
一种时延数据的处理方法、装置及设备


[0001]本申请涉及数据处理领域,尤其涉及一种时延数据的处理方法、装置及设备。

技术介绍

[0002]现有技术中对流数据处理过程中各个子任务的时延数据的记录都是通过日志的方式进行记录,由于日志是以字符串的形式对相应的时延数据进行记录,每一个子任务的时延数据对应着一种字符串模板,当需要记录其他的子任务的时延数据时,需要对日志内的字符串模板进行相应的修改,由于对日志内的字符串的修改难度较大,因此现有技术中对流数据处理过程中的各个子任务的时延数据进行记录的方式较繁琐。
[0003]另外现有技术中对各个时延数据进行日志形式的记录后,就会将所有的日志形式的时延数据全部保存到内存中。当目标设备需要对时延数据进行分析时,就会将所有的日志形式的时延数据全部发送到目标设备处,目标设备将会对所有的日志形式的时延数据进行大量的分析处理,然后得到所需的目标时延数据数据。因此,这就会需要占用目标设备大量的计算资源,影响目标设备针对时延数据进行分析的效率。
[0004]基于此,如何提升记录各个子任务时延数据的简捷性及提本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种时延数据的处理方法,其特征在于,包括:获取流计算任务的各个子任务的时延数据,得到时延数据集合;关联存储所述子任务的时延数据与所述子任务的预设标签;将与任一种所述预设标签关联存储的所述时延数据划分为一组,得到各个第一时延数据序列;根据预设规则,对至少部分所述第一时延数据序列中包含的所述时延数据进行处理,得到目标设备针对所述流计算任务进行分析处理所需的目标时延数据;将所述目标时延数据发送至所述目标设备。2.如权利要求1所述的方法,其特征在于,所述流计算任务用于针对在预设时间内获取到的连续的多个流数据进行处理;所述子任务的预设标签为键值对格式的标签,所述预设标签的键数据用于反映所述子任务使用的数据处理方式的类型;所述预设标签的值数据用于反映所述子任务的唯一任务标识以及按照所述数据处理方式进行数据处理所需使用的技术信息。3.如权利要求2所述的方法,其特征在于,所述将与任一种所述预设标签关联存储的所述时延数据划分为一组,得到各个第一时延数据序列,具体包括:针对任一种所述预设标签,从所述时延数据集合中获取携带有所述任一种所述预设标签的所述键值对的所述时延数据,得到时延数据子集合;根据针对第一时间窗口的预设时长及第一预设数量,从所述时延数据子集合中,确定出一个所述第一时延数据序列,所述第一时延数据序列中包含有所述预设数量的连续的所述第一时间窗口内产生的所述时延数据。4.如权利要求3所述的方法,其特征在于,所述根据预设规则,对至少部分所述第一时延数据序列中包含的所述时延数据进行处理,得到目标设备针对所述流计算任务进行分析处理所需的目标时延数据,具体包括:针对任意一个所述第一时延数据序列,从所述第一时延数据序列对应的各个所述第一时间窗口内选择任意一个所述第一时间窗口,得到第二时间窗口;根据所述第二时间窗口内的各个所述时延数据,计算得到所述目标时延数据,所述目标时延数据包含最大值时延数据、最小值时延数据、平均值时延数据、时延数据方差、分位数时延数据中的至少一个数据。5.如权利要求3所述的方法,其特征在于,所述根据预设规则,对至少部分所述第一时延数据序列中包含的所述时延数据进行处理,得到目标设备针对所述流计算任务进行分析处理所需的目标时延数据,还包括:针对任意一个所述第一时延数据序列,从所述第一时延数据序列对应的各个所述第一时间窗口内选择出第二预设数量的所述第一时间窗口,得到所述第二预设数量的第三时间窗口;将所述第二预设数量的所述第三时间窗口内包含的各个所述时延数据进行优先级排序,得到一个针对各个所述时延数据的优先级序列;从所述优先级序列中选择出所需的所述时延数据,得到所述目标时延数据,所述目标时延数据包含最大值时延数据、最小值时延数据、平均值时延数据、时延数据方差、分位数时延数据中的至少一个数据。
6.如权利要求5所述的方法,其特征在于,所述将所述第二预设数量的所述第三时间窗口内包含的各个所述时延数据进行优先级排序,得到一个针对各个所述时延数据的优先级序列,具体包括:确定每个所述第三时间窗口内的数值最小的所述时延数据,得到各个第一时延数据;将各个所述第一时延数据按照数值由小到大的顺序进行排序,得到第一队列;从所述第一队列中选择出数值最小的所述第一时...

【专利技术属性】
技术研发人员:陈庚维
申请(专利权)人:云控智行科技有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1