System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 数据查询优化方法及相关装置制造方法及图纸_技高网

数据查询优化方法及相关装置制造方法及图纸

技术编号:41734255 阅读:17 留言:0更新日期:2024-06-19 12:54
本申请实施例公开了一种数据查询优化方法及相关装置,方法包括:在数据湖中创建至少一个索引表;设置每一索引表对应的索引方案;将每一索引表对应的索引方案存入数据湖中,其中,索引方案包括用于确定数据查询操作对应的查询范围的过滤字段,过滤字段为每一索引表中一列或多列对应的列名,列名用于唯一标识每一索引表中的每一列;接收用户的查询请求,并根据查询请求生成查询语句;根据查询语句,从索引方案中确定目标索引方案;根据目标索引方案从数据湖中查询目标数据,并向用户反馈包括目标数据的查询结果,将查询语句作为历史查询语句存入数据湖中。如此,通过动态的在数据湖中创建、更新或删除索引方案,以达到加速数据查询的效果。

【技术实现步骤摘要】

本申请涉及数据处理领域,具体涉及一种数据查询优化方法及相关装置


技术介绍

1、目前数据湖中的索引方案只能在创建表时通过配置的方式及表属性的方式指定,且一旦指定后便不能更改,灵活性较低。如果查询方式改变,则之前创建的索引方案不能继续使用,需要重新创建新的索引方案,但是之前创建的索引方案依然存在,其占用的空间没有减少,索引方案无法灵活且及时地适配用户的查询需求,且容易造成资源的浪费。

2、因此,亟需一种支持分布式场景中实现数据同步的方法。


技术实现思路

1、本申请实施例提供了一种数据查询优化方法及相关装置,电子设备通过预设多种索引方案,能够根据用户的查询请求所确定的查询语句快速确定出适配的索引方案,从而达到优化数据查询效率和效果的目的。另外,电子设备定期根据用户的历史查询语句更新或删除索引方案,实现资源的及时释放以及动态适配用户的使用需求。

2、第一方面,本申请实施例提供一种数据查询优化方法,应用于电子设备,所述电子设备包括数据湖,所述方法包括:

3、在所述数据湖中创建至少一个索引表,其中,所述至少一个索引表中每一索引表对应一种存储格式的数据;

4、设置所述每一索引表对应的索引方案;

5、将所述每一索引表对应的索引方案存入所述数据湖中,其中,所述索引方案包括用于确定数据查询操作对应的查询范围的过滤字段,所述过滤字段为所述每一索引表中一列或多列对应的列名,所述列名用于唯一标识所述每一索引表中的每一列;

6、接收用户的查询请求,并根据所述查询请求生成查询语句,其中,所述查询语句包括过滤条件,所述过滤条件包括所述过滤字段、运算符和限定值,所述过滤字段与所述运算符以及所述限定值相关联,所述运算符用于指示所述查询操作的类型,所述限定值用于指示所述查询范围对应的目标位置;

7、根据所述查询语句,从所述索引方案中确定目标索引方案;

8、根据所述目标索引方案从所述数据湖中查询目标数据,并向所述用户反馈包括所述目标数据的查询结果,将所述查询语句作为历史查询语句存入所述数据湖中。

9、第二方面,本申请实施例提供一种数据查询优化装置,应用于电子设备,所述电子设备包括数据湖,所述装置包括:创建单元、设置单元、存储单元、接收单元和处理单元;其中,

10、所述创建单元,用于在所述数据湖中创建至少一个索引表,其中,所述至少一个索引表中每一索引表对应一种存储格式的数据;

11、所述设置单元,用于设置所述每一索引表对应的索引方案;

12、所述存储单元,用于将所述每一索引表对应的索引方案存入所述数据湖中,其中,所述索引方案包括用于确定数据查询操作对应的查询范围的过滤字段,所述过滤字段为所述每一索引表中一列或多列对应的列名,所述列名用于唯一标识所述每一索引表中的每一列;

13、所述接收单元,用于接收用户的查询请求,并根据所述查询请求生成查询语句,其中,所述查询语句包括过滤条件,所述过滤条件包括所述过滤字段、运算符和限定值,所述过滤字段与所述运算符以及所述限定值相关联,所述运算符用于指示所述查询操作的类型,所述限定值用于指示所述查询范围对应的目标位置;

14、所述处理单元,用于根据所述查询语句,从所述索引方案中确定目标索引方案;

15、所述处理单元,还用于根据所述目标索引方案从所述数据湖中查询目标数据,并向所述用户反馈包括所述目标数据的查询结果,将所述查询语句作为历史查询语句存入所述数据湖中。

16、第三方面,本申请实施例提供一种电子设备,包括处理器、存储器、通信接口以及一个或多个程序,其中,上述一个或多个程序被存储在上述存储器中,并且被配置由上述处理器执行,上述程序包括用于执行本申请实施例第一方面任一方法中的步骤的指令。

17、第四方面,本申请实施例提供了一种计算机可读存储介质,其中,上述计算机可读存储介质存储用于电子数据交换的计算机程序,其中,上述计算机程序使得计算机执行如本申请实施例第一方面任一方法中所描述的部分或全部步骤。

18、第五方面,本申请实施例提供了一种计算机程序产品,其中,上述计算机程序产品包括存储了计算机程序的非瞬时性计算机可读存储介质,上述计算机程序可操作来使计算机执行如本申请实施例第一方面任一方法中所描述的部分或全部步骤。该计算机程序产品可以为一个软件安装包。

19、可以看出,本申请实施例公开了一种数据查询优化方法及相关装置,方法包括:在数据湖中创建至少一个索引表;设置每一索引表对应的索引方案;将每一索引表对应的索引方案存入数据湖中,其中,索引方案包括用于确定数据查询操作对应的查询范围的过滤字段,过滤字段为每一索引表中一列或多列对应的列名,列名用于唯一标识每一索引表中的每一列;接收用户的查询请求,并根据查询请求生成查询语句;根据查询语句,从索引方案中确定目标索引方案;根据目标索引方案从数据湖中查询目标数据,并向用户反馈包括目标数据的查询结果,将查询语句作为历史查询语句存入数据湖中。如此,通过本申请实施例提出的方法,通过为数据湖新设置多种索引方案,动态的在不同的列上创建、更新或删除索引方案,以达到加速数据查询的效果。

本文档来自技高网...

【技术保护点】

1.一种数据查询优化方法,应用于电子设备,其特征在于,所述电子设备包括数据湖,所述方法包括:

2.根据权利要求1所述的方法,其特征在于,若所述索引方案对应第一目标数据,其中,所述第一目标数据用于创建第一索引表,所述第一索引表为所述至少一个索引表中一个,所述索引方案包括第一索引方案;

3.根据权利要求2所述的方法,其特征在于,所述方法还包括:

4.根据权利要求3所述的方法,其特征在于,所述第二目标数据文件的类型包括非正整数类型;所述索引方案包括:第二索引方案;

5.根据权利要求4所述的方法,其特征在于,所述索引方案包括:第三索引方案;

6.根据权利要求5所述的方法,其特征在于,所述方法还包括:

7.根据权利要求1所述的方法,其特征在于,所述索引方案包括:第四索引方案;

8.根据权利要求1-7任意一项所述方法,其特征在于,根据所述查询语句,从所述索引方案中确定目标索引方案,所述方法还包括:

9.根据权利要求1所述的方法,其特征在于,所述方法还包括:

10.一种数据查询优化装置,应用于电子设备,其特征在于,所述电子设备包括数据湖,所述装置包括:创建单元、设置单元、存储单元、接收单元和处理单元;其中,

11.一种电子设备,其特征在于,包括处理器、存储器、通信接口,以及一个或多个程序,所述一个或多个程序被存储在所述存储器中,并且被配置由所述处理器执行,所述程序包括用于执行如权利要求1-9中任一项所述的方法中的步骤的指令。

12.一种计算机可读存储介质,其特征在于,存储用于电子数据交换的计算机程序,其中,所述计算机程序使得计算机执行如权利要求1-9中任一项所述的方法。

...

【技术特征摘要】

1.一种数据查询优化方法,应用于电子设备,其特征在于,所述电子设备包括数据湖,所述方法包括:

2.根据权利要求1所述的方法,其特征在于,若所述索引方案对应第一目标数据,其中,所述第一目标数据用于创建第一索引表,所述第一索引表为所述至少一个索引表中一个,所述索引方案包括第一索引方案;

3.根据权利要求2所述的方法,其特征在于,所述方法还包括:

4.根据权利要求3所述的方法,其特征在于,所述第二目标数据文件的类型包括非正整数类型;所述索引方案包括:第二索引方案;

5.根据权利要求4所述的方法,其特征在于,所述索引方案包括:第三索引方案;

6.根据权利要求5所述的方法,其特征在于,所述方法还包括:

7.根据权利要求1所述的方法,其特征在于,所述索引方案包括:第四索引方案;

<...

【专利技术属性】
技术研发人员:王一钢刘海锋付庆午
申请(专利权)人:RealMe重庆移动通信有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1