一种查询语句的处理方法及装置制造方法及图纸

技术编号:39984934 阅读:24 留言:0更新日期:2024-01-09 01:49
本发明专利技术公开了一种查询语句的处理方法及装置,涉及大数据技术领域,主要目的在于缩短查询语句转换成物理执行计划的时间,以提升查询语句转换为物理执行计划的效率。本发明专利技术主要的技术方案为:将待查询语句中任意两个子查询语句按照所述待查询语句的查询方式组成第一查询任务,将所述待查询语句中除用于组成所述第一查询任务之外的其他所述子查询语句按照并发查询方式组成第二查询任务;基于处理资源将所述第一查询任务与第二查询任务分别转换为可执行操作,所述可执行操作为所述第一查询任务与第二查询任务各自对应的查询操作所组成的操作集;根据所述可执行操作生成所述待查询语句对应的查询执行计划。本发明专利技术用于对查询语句的处理。

【技术实现步骤摘要】

本专利技术涉及大数据,尤其涉及一种查询语句的处理方法及装置


技术介绍

1、随着互联网飞速发展,信息化数据急剧膨胀,海量数据的分析处理所面临的难题也越来越多,而apache spark是专为大规模数据处理而设计的快速通用的计算引擎,其支持使用标准sql查询和hiveql来读写数据,可用于结构化数据处理,并可以执行类似sql的spark数据查询,有助于开发人员更快地创建和运行spark程序。

2、然而,在使用spark程序对sql查询语句的转换过程中,由于spark sql模块是按照sql语句包含的多个子查询语句的排序将sql语句转换成物理执行计划(即将sql语句转换成物理执行计划是串行执行的),因此,当sql查询语句中包含大量的子查询语句时,sparksql模块将该sql查询语句转换成物理执行计划,需要耗费大量的时间,导致sql查询语句转换为物理执行计划的效率低。


技术实现思路

1、鉴于上述问题,本专利技术提供一种查询语句的处理方法及装置,主要目的是为了缩短查询语句转换成物理执行计划的时间,以提升本文档来自技高网...

【技术保护点】

1.一种查询语句的处理方法,其特征在于,所述方法包括:

2.根据权利要求1所述的方法,其特征在于,所述查询方式为查询多个所述子查询语句对应查询结果的并集,将待查询语句中任意两个子查询语句按照所述待查询语句的查询方式组成第一查询任务,将所述待查询语句中除组成所述第一查询任务之外的其他所述子查询语句按照并发查询方式组成第二查询任务,包括:

3.根据权利要求1所述的方法,其特征在于,根据所述可执行操作生成所述待查询语句对应的查询执行计划,包括:

4.根据权利要求1所述的方法,其特征在于,基于处理资源将所述第一查询任务与第二查询任务分别转换为可执行操作,包括:...

【技术特征摘要】

1.一种查询语句的处理方法,其特征在于,所述方法包括:

2.根据权利要求1所述的方法,其特征在于,所述查询方式为查询多个所述子查询语句对应查询结果的并集,将待查询语句中任意两个子查询语句按照所述待查询语句的查询方式组成第一查询任务,将所述待查询语句中除组成所述第一查询任务之外的其他所述子查询语句按照并发查询方式组成第二查询任务,包括:

3.根据权利要求1所述的方法,其特征在于,根据所述可执行操作生成所述待查询语句对应的查询执行计划,包括:

4.根据权利要求1所述的方法,其特征在于,基于处理资源将所述第一查询任务与第二查询任务分别转换为可执行操作,包括:

5.根据权利要求1所述的方法,其特征在于,在将待查询语句中任意两个子查询语句按照所述待查询语句的查询方式组成第一查询任务,将所述待查询语句中除用于组成所述第一查询任务之外的其他所述子查...

【专利技术属性】
技术研发人员:周静
申请(专利权)人:北京国双科技有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1