大数据模型的构建方法、装置、电子设备和可读存储介质制造方法及图纸

技术编号:38539180 阅读:14 留言:0更新日期:2023-08-19 17:07
本申请提供了一种大数据模型的构建方法、装置、电子设备和可读存储介质,包括:获得选择信息,所述选择信息是基于工作流选择至少三个节点的操作生成;分析所述选择信息得到所述至少三个节点的排序;将所述三个节点按照排序进行参数传递,得到所述工作流对应的大数据模型。本实施例中,操作者基于工作流选择多个节点,获得基于选择操作生成的选择信息,分析该选择信息得到选择的多个节点的排序,将该多个节点按照排序进行参数传递,实现了自动对于参数传递,得到工作流对应的大数据模型,无需人工手动控制提交顺序维护每个任务的输出参数输入参数,实现了统一管理。实现了统一管理。实现了统一管理。

【技术实现步骤摘要】
大数据模型的构建方法、装置、电子设备和可读存储介质


[0001]本申请涉及数据处理领域,更具体的说,是涉及一种大数据模型的构建方法、装置、电子设备和可读存储介质。

技术介绍

[0002]大数据计算任务作为一种能够进行大规模数据处理的任务处理方式,广泛应用于各种大数据分析场景中。
[0003]比如,在空间大数据分析应用场景中,分析任务常常有多个大数据任务串/并联完成。
[0004]在多数空间分析应用场景中,一个分析模型常常由多个大数据任务组成,这些大数据任务通常需要单独配置、单独提交、单独维护。只是在业务体系下形成一个逻辑模型,并没有完成形成一个整体。
[0005]因此,现有的分析模型配置繁琐,还需要手动控制提交顺序、手动维护每一个任务的输入参数和输出参数,无法统一管理,比较繁琐,维护成本高。

技术实现思路

[0006]有鉴于此,本申请提供了一种大数据模型的构建方法、装置、电子设备和可读存储介质,如下:
[0007]一种大数据模型的构建方法,包括:
[0008]获得选择信息,所述选择信息是基于依据工作流选择至少三个节点的操作生成;
[0009]分析所述选择信息得到所述至少三个节点的排序;
[0010]将所述三个节点按照排序进行参数传递,得到所述工作流对应的大数据模型。
[0011]可选的,上述的方法,所述获得选择信息,包括:
[0012]接收操作信息,所述操作信息基于对于显示界面中显示内容进行的操作生成;
[0013]分析所述操作信息,得到所述操作选中的区域对应的至少三个节点。
[0014]可选的,上述的方法,所述分析所述操作信息,得到所述操作选中的区域对应的至少三个节点,包括:
[0015]分析所述操作信息,得到所述操作信息在所述显示界面对应的目标区域;
[0016]基于所述目标区域对应数据源节点所在的第一区域,确定选择的节点为数据源节点,所述数据源节点用于提供数据源;
[0017]基于所述目标区域对应任务节点所在的第二区域,确定选择的节点为任务节点,所述任务节点用于至少基于数据源节点提供的数据源进行数据计算;
[0018]基于所述目标区域对应插件节点所在的第三区域,确定选择的节点为插件节点,所述插件节点用于按照预设转换规则,将所述任务节点的计算结果进行转换得到输出结果。
[0019]可选的,上述的方法,所述分析所述选择信息得到所述至少三个节点的排序,包
括:
[0020]基于所述选择信息依次确定所述至少三个节点中任意两个节点的排序;
[0021]获得所述至少三个节点的类型,所述节点的类型包括数据源节点、任务节点和插件节点;
[0022]基于至少三个节点中任意两个节点的排序以及所述至少三个节点的类型确定与工作流对应的所述至少三个节点的排序。
[0023]可选的,上述的方法,还包括:
[0024]确定预设结果库;
[0025]在所述任务节点后连接所述预设结果库,以将所述任务节点的计算结果写入到所述预设结果库,所述插件节点从所述预设结果库读取所述计算结果。
[0026]可选的,上述的方法,所述将所述三个节点按照排序进行参数传递,得到所述工作流对应的大数据模型,包括:
[0027]获得第一节点的算法标识;
[0028]基于所述算法标识获得第一节点的输出参数;
[0029]基于所述第一节点的输出参数更新第二节点的输入参数,所述第二节点与第一节点相邻且所述第二节点基于第一节点的计算结果进行数据处理。
[0030]可选的,上述的方法,所述将所述三个节点按照排序进行参数传递,得到所述工作流对应的大数据模型之后,还包括:
[0031]将所述大数据模型上传至平台服务器,以基于所述平台服务器生成的运行指令控制所述大数据模型进行数据处理输出处理结果。
[0032]一种大数据模型的构建装置,包括:
[0033]获得模块,用于获得选择信息,所述选择信息是基于依据工作流选择至少三个节点的操作生成;
[0034]分析模块,用于分析所述选择信息得到所述至少三个节点的排序;
[0035]传递模块,用于将所述三个节点按照排序进行参数传递,得到所述工作流对应的大数据模型。
[0036]一种电子设备,包括:存储器、处理器;
[0037]其中,存储器存储有处理程序;
[0038]所述处理器用于加载并执行所述存储器存储的所述处理程序,以实现如上述任一项所述的大数据模型的构建方法的各步骤。
[0039]一种可读存储介质,其上存储有计算机程序,所述计算机程序被处理器调用并执行,实现如上述任一项所述的大数据模型的构建方法的各步骤。
[0040]综上,本申请提供的一种大数据模型的构建方法,包括:获得选择信息,所述选择信息是基于工作流选择至少三个节点的操作生成;分析所述选择信息得到所述至少三个节点的排序;将所述三个节点按照排序进行参数传递,得到所述工作流对应的大数据模型。本实施例中,操作者基于工作流选择多个节点,获得基于选择操作生成的选择信息,分析该选择信息得到选择的多个节点的排序,将该多个节点按照排序进行参数传递,实现了自动对于参数传递,得到工作流对应的大数据模型,无需人工手动控制提交顺序维护每个任务的输出参数输入参数,实现了统一管理。
附图说明
[0041]为了更清楚地说明本申请实施例的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据提供的附图获得其他的附图。
[0042]图1是本申请提供的一种大数据模型的构建方法实施例1的流程图;
[0043]图2是本申请提供的一种大数据模型的构建方法实施例2的流程图;
[0044]图3是本申请提供的一种大数据模型的构建方法实施例3的流程图;
[0045]图4是本申请提供的一种大数据模型的构建方法实施例3中大数据模型示意图;
[0046]图5是本申请提供的一种大数据模型的构建方法实施例4的流程图;
[0047]图6是本申请提供的一种大数据模型的构建方法实施例5的流程图;
[0048]图7是本申请提供的一种大数据模型的构建方法实施例5中大数据模型示意图;
[0049]图8是本申请提供的一种大数据模型的构建方法实施例5中任务节点的参数配置界面示意图;
[0050]图9是本申请提供的一种大数据模型的构建方法实施例6的流程图;
[0051]图10是本申请提供的一种大数据模型的构建装置实施例的结构示意图。
具体实施方式
[0052]下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本申请一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员在没有做本文档来自技高网
...

【技术保护点】

【技术特征摘要】
1.一种大数据模型的构建方法,其特征在于,包括:获得选择信息,所述选择信息是基于依据工作流选择至少三个节点的操作生成;分析所述选择信息得到所述至少三个节点的排序;将所述三个节点按照排序进行参数传递,得到所述工作流对应的大数据模型。2.根据权利要求1所述的方法,其特征在于,所述获得选择信息,包括:接收操作信息,所述操作信息基于对于显示界面中显示内容进行的操作生成;分析所述操作信息,得到所述操作选中的区域对应的至少三个节点。3.根据权利要求2所述的方法,其特征在于,所述分析所述操作信息,得到所述操作选中的区域对应的至少三个节点,包括:分析所述操作信息,得到所述操作信息在所述显示界面对应的目标区域;基于所述目标区域对应数据源节点所在的第一区域,确定选择的节点为数据源节点,所述数据源节点用于提供数据源;基于所述目标区域对应任务节点所在的第二区域,确定选择的节点为任务节点,所述任务节点用于至少基于数据源节点提供的数据源进行数据计算;基于所述目标区域对应插件节点所在的第三区域,确定选择的节点为插件节点,所述插件节点用于按照预设转换规则,将所述任务节点的计算结果进行转换得到输出结果。4.根据权利要求2所述的方法,其特征在于,所述分析所述选择信息得到所述至少三个节点的排序,包括:基于所述选择信息依次确定所述至少三个节点中任意两个节点的排序;获得所述至少三个节点的类型,所述节点的类型包括数据源节点、任务节点和插件节点;基于至少三个节点中任意两个节点的排序以及所述至少三个节点的类型确定与工作流对应的所述至少三个节点的排序。5.根据权利要求4所述的方法,其特征在于,还包括:确定预设结果库;在...

【专利技术属性】
技术研发人员:赵子铭韩晓峰杨龙罗亚齐小玲白富权张永朋肖静
申请(专利权)人:上海数慧系统技术有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1