一种信息处理方法、装置、电子设备及存储介质制造方法及图纸

技术编号:26890531 阅读:26 留言:0更新日期:2020-12-29 16:06
本申请公开了一种信息处理方法、装置、电子设备及存储介质。其中,该方法包括:根据请求方发送的服务请求获取目标业务的任务框架,所述任务框架包括与至少一个任务链路,所述任务链路包括至少一个任务节点;获取所述任务节点的期望完成时间以及期望应用时间;根据所述期望完成时间以及期望应用时间计算所述目标业务的目标完成时间;将所述目标完成时间发送至所述请求方。本申请实施例可以根据期望完成时间以及期望应用时间计算出多种情况下大数据平台中任务的目标完成时间,相比现有技术中通过作业负责人或平台运行人员的主观判断设置的完成时间,能够在在大规模作业量的集团级大数据平台下保障完成时间的可用性、可靠性、准确性。

【技术实现步骤摘要】
一种信息处理方法、装置、电子设备及存储介质
本申请涉及大数据计算领域,尤其涉及一种信息处理方法、装置、电子设备及存储介质。
技术介绍
随着大数据时代的到来,企业中每天存在海量的大数据计算,用于支撑企业营销和运营。在企业大数据平台中或数据中台中或数据仓库环境会存在大量的hadoop批处理计算任务、Spark实时计算任务、Presto即席查询计算任务、Flink实时计算任务等,任务数量规模在万级、十万级、百万级规模不等。这样海量的大数据计算任务场景下,业务用户对该大数据平台中的计算任务(大数据作业)的数据加工完成时间也存在诉求,对在大数据平台中运行的支持某一类业务应用的作业集合的完成时间也有诉求。此时,大数据平台的运营管理人员很难保障大数据作业能够保障大数据作业加工完成的时间符合业务方的数据使用的时间诉求,更加难以保证大数据平台中某一类业务应用的所有作业的完成时间能够满足业务使用方的时间要求。专利技术人发现,目前大数据平台运营人员或大数据作业的工作人员只能根据自己的个人经验、结合业务方的时间要求,结合大数据平台中的个别作业执行情况来评估大数本文档来自技高网...

【技术保护点】
1.一种信息处理方法,其特征在于,包括:/n根据请求方发送的服务请求获取目标业务的任务框架,所述任务框架包括与至少一个任务链路,所述任务链路包括至少一个任务节点;/n获取所述任务节点的期望完成时间以及期望应用时间;/n根据所述期望完成时间以及期望应用时间计算所述目标业务的目标完成时间;/n将所述目标完成时间发送至所述请求方。/n

【技术特征摘要】
1.一种信息处理方法,其特征在于,包括:
根据请求方发送的服务请求获取目标业务的任务框架,所述任务框架包括与至少一个任务链路,所述任务链路包括至少一个任务节点;
获取所述任务节点的期望完成时间以及期望应用时间;
根据所述期望完成时间以及期望应用时间计算所述目标业务的目标完成时间;
将所述目标完成时间发送至所述请求方。


2.根据权利要求1所述的方法,其特征在于,所述根据所述期望完成时间以及期望应用时间确定所述任务链路的目标完成时间包括:
根据所述期望完成时间以及期望应用计算确定所述任务节点的第一完成时间;
根据所述第一完成时间计算所述任务节点所在任务链路的第二完成时间;
根据第二完成时间计算所述目标完成时间。


3.根据权利要求2所述的方法,其特征在于,所述根据所述期望完成时间以及期望应用计算确定所述任务节点的第一完成时间,包括:
当所述期望完成时间以及期望应用时间均不为0时,将所述期望完成时间以及期望应用时间中最小的作为所述第一完成时间;
或,所述根据所述期望完成时间以及期望应用计算确定所述任务节点的第一完成时间,包括:
当所述期望完成时间不为0,期望应用时间为0时,确定所述任务节点的平均完成时间;
根据所述平均完成时间与预设时间进行计算得到目标平均完成时间;
将所述期望完成时间与所述目标平均完成时间中最小的作为所述第一完成时间;
或,所述根据所述期望完成时间以及期望应用计算确定所述任务节点的第一完成时间,包括:
当所述期望完成时间为0,期望应用时间不为0时,获取至少一个历史完成时间;
将满足第一预设条件的历史完成时间作为所述第一完成时间;
或,所述根据所述期望完成时间以及期望应用计算确定所述任务节点的第一完成时间,包括:
当所述期望完成时间以及期望应用时间均为0时,确定所述任务节点的平均完成时间;
根据所述平均完成时间与预设时间计算得到目标平均完成时间;
将所述目标平均完成时间作为所述第一完成时间。


4.根据权利要求2所述的方法,其特征在于,所述...

【专利技术属性】
技术研发人员:杨泽森
申请(专利权)人:京东数字科技控股股份有限公司
类型:发明
国别省市:北京;11

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1