【技术实现步骤摘要】
数据查询方法、装置、系统及存储介质
[0001]本专利技术涉及数据处理
,尤其涉及一种数据查询方法、装置、系统及存储介质。
技术介绍
[0002]在金融科技或者医疗领域中,为了便于用户对金融数据或者医疗数据的查询,HIVE数据分析系统的查询功能应运而生。在HIVE数据分析系统执行数据查询功能时,通常将生成的中间结果存储在HDFS分布式文件系统中。当HDFS分布式文件系统的负载很大时,中间结果的写入,会进一步增大HDFS分布式文件系统的负载,从而导致数据查询任务的执行效率低下,降低数据查询任务的时效性。
技术实现思路
[0003]鉴于以上内容,有必要提供一种数据查询方法、装置、系统及存储介质,能够解决数据查询任务的执行效率低下的技术问题。
[0004]一方面,本专利技术提出一种数据查询方法,应用于HIVE数据分析系统,所述HIVE数据分析系统运行有参数配置界面,所述数据查询方法包括:
[0005]读取多个配置文件及所述参数配置界面中的初始系统参数,所述初始系统参数包括主系统参数及辅助系统参 ...
【技术保护点】
【技术特征摘要】
1.一种数据查询方法,应用于HIVE数据分析系统,所述HIVE数据分析系统运行有参数配置界面,其特征在于,所述数据查询方法包括:读取多个配置文件及所述参数配置界面中的初始系统参数,所述初始系统参数包括主系统参数及辅助系统参数;将接收到的数据查询脚本转换为脚本语法树;对所述脚本语法树进行遍历,生成所述数据查询脚本的多个脚本执行计划及每个脚本执行计划的执行序号;依照所述执行序号对所述多个脚本执行计划进行处理,得到目标结果;在所述多个脚本执行计划的处理过程中,将处理所述多个脚本执行计划所得到的中间结果存储至与所述辅助系统参数对应的辅助分布式文件系统;当监测到所述多个脚本执行计划完成处理时,将所述目标结果存储至与所述主系统参数对应的主分布式文件系统。2.如权利要求1所述的数据查询方法,其特征在于,所述读取多个配置文件及所述参数配置界面中的初始系统参数包括:获取与所述参数配置界面对应的路径目录;从所述路径目录中获取所述多个配置文件;读取所述多个配置文件中与预设标签对应的信息作为第一参数,并读取所述参数配置界面中与所述预设标签对应的信息作为第二参数;合并所述第一参数及所述第二参数,得到所述初始系统参数。3.如权利要求1所述的数据查询方法,其特征在于,所述将接收到的数据查询脚本转换为脚本语法树包括:对所述数据查询脚本进行预处理,得到目标脚本;对所述目标脚本进行词法分析,得到语法数组;对所述语法数组进行语法分析并修正,得到所述脚本语法树。4.如权利要求3所述的数据查询方法,其特征在于,所述对所述目标脚本进行词法分析,得到语法数组包括:扫描所述目标脚本中的脚本字符;将所述脚本字符与预设词法规则进行匹配,得到所述脚本字符所对应的字符类型;根据所述脚本字符及所述字符类型生成所述语法数组。5.如权利要求3所述的数据查询方法,其特征在于,所述对所述语法数组进行语法分析并修正,得到所述脚本语法树包括:根据所述语法数组对所述目标脚本进行语法分析,判断所述目标脚本的语法是否正确;若所述目标脚本的语法正确,则根据与所述目标脚本对应的代码规则,生成初始语法树;基于所述初始语法树中的初始节点创建节点对象;根据所述节点对象及所述初始语法树生成所述脚本语法树。6.如权利要求1所述的数据查询方法,其特征在于,所述依照...
【专利技术属性】
技术研发人员:刘潭义,张观成,万书武,
申请(专利权)人:平安科技深圳有限公司,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。