信息处理方法、装置、设备、介质及程序产品制造方法及图纸

技术编号:43468701 阅读:20 留言:0更新日期:2024-11-27 13:06
本申请实施例公开了一种信息处理方法、装置、设备、介质及程序产品。该方法包括:获取抽取‑转换‑加载ETL任务中的结构化查询语言清单,结构化查询语言清单包括多个结构化查询语言;对结构化查询语言清单进行执行流程复杂度评估,得到ETL任务的执行流程复杂度评分;对多个结构化查询语言进行语法复杂度评估,得到语法复杂度评分;根据执行流程复杂度评分以及语法复杂度评分,按照预设的优化规则生成优化建议信息。本申请实施例能够对数据中台程序ETL流程及SQL的复杂度进行评估,以及时进行优化。

【技术实现步骤摘要】

本申请属于互联网,尤其涉及一种信息处理方法、装置、设备、计算机存储介质及计算机程序产品。


技术介绍

1、随着企业数字化转型,数字化改革的推进,数据中台的应用日益广泛。数据中台建设初期或者接入新业务时,数据量小,过于复杂的抽取-转换-加载(extract-transform-load,etl)任务执行流程以及一些复杂、低效的结构化查询语言(structured querylanguage,sql)在执行时问题暴露不出来,只有依赖有经验的技术人员人工审核才能发现问题。随着数据中台不断接入新的业务和数据,数据规模越来越大,复杂的etl任务执行流程和低效sql对资源的消耗越来越大,对业务时效性的影响也越来越严重,从而会改变sql的执行计划,对执行效率产生负面影响。

2、因此,亟需对数据中台程序复杂etl流程及sql的复杂度进行评估,以及时进行优化,从而保障sql的高效执行,使得数据中台资源合理被利用。


技术实现思路

1、本申请实施例提供一种信息处理方法、装置、设备、计算机存储介质及计算机程序产品,能够对数本文档来自技高网...

【技术保护点】

1.一种信息处理方法,其特征在于,包括:

2.根据权利要求1所述的方法,其特征在于,所述执行流程复杂度评分包括扫描行数复杂度评分、索引命中复杂度评分、过滤比例复杂度评分或者临时表复杂度评分中的至少一者。

3.根据权利要求2所述的方法,其特征在于,所述对所述结构化查询语言清单进行执行流程复杂度评估,得到所述ETL任务的执行流程复杂度评分,包括:

4.根据权利要求1-3中任一项所述的方法,其特征在于,所述对所述多个结构化查询语言进行语法复杂度评估,得到语法复杂度评分,包括:

5.根据权利要求4所述的方法,其特征在于,所述预设的语法复杂度计算规则...

【技术特征摘要】

1.一种信息处理方法,其特征在于,包括:

2.根据权利要求1所述的方法,其特征在于,所述执行流程复杂度评分包括扫描行数复杂度评分、索引命中复杂度评分、过滤比例复杂度评分或者临时表复杂度评分中的至少一者。

3.根据权利要求2所述的方法,其特征在于,所述对所述结构化查询语言清单进行执行流程复杂度评估,得到所述etl任务的执行流程复杂度评分,包括:

4.根据权利要求1-3中任一项所述的方法,其特征在于,所述对所述多个结构化查询语言进行语法复杂度评估,得到语法复杂度评分,包括:

5.根据权利要求4所述的方法,其特征在于,所述预设的语法复杂度计算规则包括:

6.根据权利要求5所述的方法,其特征在于,所述按照预设算法分别对所述多个结构化查询语言的结构和语义信息进行计算,得到所述...

【专利技术属性】
技术研发人员:樊红敏王冀彬陈卓胡清源李珍闫晓梅王珊珊
申请(专利权)人:中移动信息技术有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1