一种数据表的生成方法、装置、设备和存储介质制造方法及图纸

技术编号:31228501 阅读:24 留言:0更新日期:2021-12-08 09:40
本发明专利技术实施例公开了一种数据表的生成方法、装置、服务器和存储介质。获取输入的目标指标字段、目标维度字段以及目标维度字段所属的目标数据表;根据预先创建的数据表关联关系图,确定目标指标字段对应的来源数据表与目标数据表之间的目标关联路径;根据目标关联路径生成结构化查询语言SQL脚本;通过运行SQL脚本,执行基于目标关联路径上的数据表获得目标维度字段和目标指标字段对应的数据记录,并将数据记录保存至预设数据表中的操作。上述过程可以根据目标关联路径直接生成SQL脚本,运行SQL脚本生成数据表,全程无需用户调研无需用户编写SQL脚本,实现提高数据表的生成效率和准确度的效果。准确度的效果。准确度的效果。

【技术实现步骤摘要】
一种数据表的生成方法、装置、设备和存储介质


[0001]本专利技术实施例涉及计算机技术,尤其涉及一种数据表的生成方法、装置、设备和存储介质。

技术介绍

[0002]目前在生成数据仓库中的数据表时,需要由开发人员花费大量时间调研,根据调研结果编写结构化查询语言(Structured Query Language,SQL)脚本,然后通过运行SQL脚本生成数据表。其中,通过运行SQL脚本,可以到数据仓库中的已有数据表中查找所需字段的数据,并将查找到的数据进行汇总计算后写入数据表中,从而完成数据表的生成操作。
[0003]比如,需要生成包括店铺标识和订单量这两个字段的数据表,通过运行SQL脚本,到已有的店铺表中查找各店铺标识分别对应的商品标识,到已有的订单表中查找各商品标识分别对应的订单标识,将从两个表中查询到的数据进行汇总计算后得到各店铺标识分别对应的订单量,并将得到的数据记录写入包含店铺标识字段和订单量字段的数据表中。
[0004]在实现本专利技术的过程中,专利技术人发现现有技术中至少存在如下问题:
[0005]上述通过运行本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种数据表的生成方法,其特征在于,包括:获取输入的目标指标字段、目标维度字段以及所述目标维度字段所属的目标数据表;根据预先创建的数据表关联关系图,确定所述目标指标字段对应的来源数据表与所述目标数据表之间的目标关联路径;根据所述目标关联路径生成结构化查询语言SQL脚本;通过运行所述SQL脚本,执行基于所述目标关联路径上的数据表获得所述目标维度字段和所述目标指标字段对应的数据记录,并将所述数据记录保存至预设数据表中的操作。2.根据权利要求1所述的方法,其特征在于,在获取输入的目标指标字段、目标维度字段以及所述目标维度字段所属的目标数据表之前,所述方法还包括:生成至少一条数据表关联关系信息,其中,各所述数据表关联关系信息包括具有关联关系的两个数据表的标识、以及所述两个数据表对应的关联字段;根据各所述数据表关联关系信息创建数据表关联关系图;其中,所述数据表关联关系图中包含多个数据表的节点,具有关联关系的两个数据表的节点之间具有边的连接关系,并且各所述边上包含对应的两个数据表的关联字段。3.根据权利要求2所述的方法,其特征在于,生成至少一条数据表关联关系信息,包括:获取数据仓库中各数据表对应的运行日志,抽取所述运行日志中的SQL语句;将所述SQL语句解析为抽象语法树,根据所述抽象语法树确定具有关联关系的数据表、以及具有关联关系的数据表对应的关联字段;根据确定结果生成至少一条数据表关联关系信息。4.根据权利要求2所述的方法,其特征在于,生成至少一条数据表关联关系信息,包括:获取数据仓库中各数据表中的维度字段,将各所述维度字段进行聚类;计算同一聚类类别中的维度字段之间的相似度;根据所述相似度确定具有关联关系的数据表、以及具有关联关系的数据表对应的关联字段;根据确定结果生成至少一条数据表关联关系信息。5.根据权利要求4所述的方法,其特征在于,获取数据仓库中各数据表中的维度字段,包括:获取数据仓库中各数据表中的各字段;针对各所述字段,将所述字段的特征数据输入预先训练出的分类模型,根据所述分类模型的输出结果确定所述字段是否是维度字段;获取各所述字段中的维度字段。6.根据权利要求4所述的方法,其特征在于,计算同一聚类类别中的维度字段之间的相似度,包括:对于同一聚类类别中的各维度字段,将所述维度字段下的数据进行哈希映射,获得所述维度字段对应的二进制数据;计算每两个二进制数据之间的距离数据,根据所述距离数据确定对应的维度字段之间的相似度。7.根据权利要求4所述的方法,其特征在于,根据所述相似度确定具有关联关系的数据表、以及具有关联关系的数据表对应的关联字段,包括:
将相似度超过设定阈值的维度字段所属的数据表,确定为具有关联关系的数据表,并将所述相似度超过设定阈值的维度字段确定为所述具有关联关系的数据表对应的关联字段。8.根据权利要求2所述的方法,其特征在于,根据各所述数据表关联关系信息创建数据表关联关系图,包括:根据各所述数据表关联关系信息构建邻接表;其中,所述邻接表中包含各数据表的节点分别对应的邻居节点;选择一个数据表的节点作为起点,基于所述邻接表确定所述起点的i度可关联路径;其中,i的初始取值为1;从当前各条i度可关联路径中筛选出预设数量的最优路径,将筛选出的最优路径存入散列表中;将i的取值加1,并根据所述邻接表和所述散列表确定所述起点的i度可关联路径,直至i的取值达到设定数值。9.根据权利要求8所述的方法,其特征在于,从当前各条i度可关联路径中筛选出预设数量的最优路径,包括:将当前各条...

【专利技术属性】
技术研发人员:蒲海洋陈伯梁
申请(专利权)人:北京京东世纪贸易有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1