System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 数据处理方法及装置、电子设备及存储介质制造方法及图纸_技高网

数据处理方法及装置、电子设备及存储介质制造方法及图纸

技术编号:40645811 阅读:3 留言:0更新日期:2024-03-13 21:25
本说明书一个或多个实施例提供一种数据处理方法及装置、电子设备及存储介质,所述方法包括:在将内存中的目标数据写入磁盘的过程中,响应于接收到针对所述目标数据的查询指令,根据所述查询指令、以及至少一个第一局部数据的中间索引层信息和至少一个第二局部数据的中间索引层信息,分别在所述至少一个第一局部数据和所述至少一个第二局部数据中查询数据,并对查询到的数据进行排序后作为数据查询结果;其中,所述第一局部数据包括所述目标数据中存储于磁盘的部分数据,所述第二局部数据包括所述目标数据中存储于内存的部分数据,所述目标数据呈列存形式,所述目标数据的每个列组对应一个第二局部数据。

【技术实现步骤摘要】

本说明书一个或多个实施例涉及数据库,尤其涉及一种数据处理方法及装置、电子设备及存储介质


技术介绍

1、在互联网和信息化高速发展的今天,数据的产生呈爆炸式增长,因此对数据库及其管理的要求越来越高。数据处理过程中需要利用dml(data manipulation language,数据操纵语言)对数据表进行操作,例如对数据进行增删查改等;数据处理过程中还需要利用ddl(data definition languages,数据定义语言)对数据进行重整,例如建新表、删除列、变更列类型等。

2、相关技术中,在利用ddl对数据进行重整的过程中,相关数据无法对外提供查询服务,导致数据库的业务处理被影响,产生业务请求超时等业务问题。


技术实现思路

1、有鉴于此,本说明书一个或多个实施例提供一种数据处理方法及装置、电子设备及存储介质。

2、为实现上述目的,本说明书一个或多个实施例提供技术方案如下:

3、根据本说明书一个或多个实施例的第一方面,提出了一种数据处理方法,所述方法包括:

4、在将内存中的目标数据写入磁盘的过程中,响应于接收到针对所述目标数据的查询指令,根据所述查询指令、以及至少一个第一局部数据的中间索引层信息和至少一个第二局部数据的中间索引层信息,分别在所述至少一个第一局部数据和所述至少一个第二局部数据中查询数据,并对查询到的数据进行排序后作为数据查询结果;

5、其中,所述第一局部数据包括所述目标数据中存储于磁盘的部分数据,所述第二局部数据包括所述目标数据中存储于内存的部分数据,所述目标数据呈列存形式,所述目标数据的每个列组对应一个第二局部数据。

6、在本说明书的一个实施例中,所述查询指令包括查询范围和查询条件;

7、所述根据所述查询指令、以及至少一个第一局部数据的中间索引层信息和至少一个第二局部数据的中间索引层信息,分别在所述至少一个第一局部数据和所述至少一个第二局部数据中查询数据,并对查询到的数据进行排序后作为数据查询结果,包括:

8、根据至少一个第一局部数据的中间索引层信息和至少一个第二局部数据的中间索引层信息,分别在所述至少一个第一局部数据和所述至少一个第二局部数据中查询所述查询范围内的数据,并对查询到的数据进行排序后作为待查询数据;

9、根据所述查询条件对所述待查询数据进行查询,确定所述数据查询结果。

10、在本说明书的一个实施例中,所述查询范围包括至少一个列组的列查询范围;

11、所述根据所述查询范围、以及至少一个第一局部数据的中间索引层信息和至少一个第二局部数据的中间索引层信息,分别在所述至少一个第一局部数据和所述至少一个第二局部数据中查询所述查询范围内的数据,并对查询到的数据进行排序后作为待查询数据,包括:

12、对于所述查询范围中每个列查询范围所属的列组,根据所述列组的第一局部数据的中间索引层信息和第二局部数据的中间索引层信息、以及所述列组的列查询范围,确定所述列组的列查询范围对应的第一行偏移范围;

13、根据所述查询范围中每个列查询范围对应的第一行偏移范围,确定所述第二行偏移范围;

14、根据所述第二行偏移范围,以及至少一个第一局部数据的中间索引层信息和至少一个第二局部数据的中间索引层信息,分别在所述至少一个第一局部数据和所述至少一个第二局部数据中查询所述第二行偏移范围内的数据,并对查询到的数据进行排序后作为待查询数据。

15、在本说明书的一个实施例中,所述根据所述列组的第一局部数据的中间索引层信息和第二局部数据的中间索引层信息、以及所述列组的列查询范围,确定所述列组的列查询范围对应的第一行偏移范围,包括:

16、根据所述列组的第一局部数据的中间索引层信息和第二局部数据的中间索引层信息,分别在所述列组的第一局部数据和第二局部数据中查询所述查询范围内第三行偏移范围内的数据,并对查询到的数据按照行偏移进行排序后作为所述列组的列查询结果;

17、根据所述列组的列查询范围对所述列组的列查询结果进行筛选,得到所述列组的列查询范围对应的第一行偏移范围。

18、在本说明书的一个实施例中,所述查询范围包括主键范围;

19、所述方法还包括:

20、根据主键列的第一局部数据的中间索引层信息和第二局部数据的中间索引层信息,分别在所述主键列的第一局部数据和第二局部数据中查询所述主键范围内的数据,并对查询到的数据按照行偏移进行排序后作为主键查询结果;

21、根据主键查询结果中的数据的行偏移,确定所述查询范围内第二行偏移范围。

22、在本说明书的一个实施例中,所述第一局部数据和所述第二局部数据内的数据以数据块的形式存储,每个数据库存储部分数据;

23、所述根据至少一个第一局部数据的中间索引层信息和至少一个第二局部数据的中间索引层信息,分别在所述至少一个第一局部数据和所述至少一个第二局部数据中查询所述查询范围内的数据,并对查询到的数据进行排序后作为待查询数据,包括:

24、根据至少一个第一局部数据的中间索引层信息和至少一个第二局部数据的中间索引层信息,分别在所述至少一个第一局部数据和所述至少一个第二局部数据中查询所述查询范围内的数据所属的数据块,将对查询到的数据块进行排序后作为待查询数据。

25、在本说明书的一个实施例中,所述数据块包括宏块和微块。

26、在本说明书的一个实施例中,所述目标数据包括:

27、根据数据定义语言ddl在所述内存中生成的数据。

28、在本说明书的一个实施例中,所述目标数据的不同列组对应相同的第一局部数据;或者,所述目标数据的不同列组对应不同的第一局部数据。

29、根据本说明书一个或多个实施例的第二方面,提出了一种数据处理装置,所述装置包括:

30、实时查询模块,用于在将内存中的目标数据写入磁盘的过程中,响应于接收到针对所述目标数据的查询指令,根据所述查询指令、以及至少一个第一局部数据的中间索引层信息和至少一个第二局部数据的中间索引层信息,分别在所述至少一个第一局部数据和所述至少一个第二局部数据中查询数据,并对查询到的数据进行排序后作为数据查询结果;

31、其中,所述第一局部数据包括所述目标数据中存储于磁盘的部分数据,所述第二局部数据包括所述目标数据中存储于内存的部分数据,所述目标数据呈列存形式,所述目标数据的每个列组对应一个第二局部数据。

32、在本说明书的一个实施例中,所述查询指令包括查询范围和查询条件;

33、所述实时查询模块用于:

34、根据至少一个第一局部数据的中间索引层信息和至少一个第二局部数据的中间索引层信息,分别在所述至少一个第一局部数据和所述至少一个第二局部数据中查询所述查询范围内的数据,并对查询到的数据进行排序后作为待查询数据;

35、根据所述查询条件对所述待查询数据进本文档来自技高网...

【技术保护点】

1.一种数据处理方法,所述方法包括:

2.根据权利要求1所述的数据处理方法,所述查询指令包括查询范围和查询条件;

3.根据权利要求2所述的数据处理方法,所述查询范围包括至少一个列组的列查询范围;

4.根据权利要求3所述的数据处理方法,所述根据所述列组的第一局部数据的中间索引层信息和第二局部数据的中间索引层信息、以及所述列组的列查询范围,确定所述列组的列查询范围对应的第一行偏移范围,包括:

5.根据权利要求4所述的数据处理方法,所述查询范围包括主键范围;

6.根据权利要求2所述的数据处理方法,所述第一局部数据和所述第二局部数据内的数据以数据块的形式存储,每个数据库存储部分数据;

7.根据权利要求6所述的数据处理方法,所述数据块包括宏块和微块。

8.根据权利要求1所述的数据处理方法,所述目标数据包括:

9.根据权利要求1所述的数据处理方法,所述目标数据的不同列组对应相同的第一局部数据;或者,所述目标数据的不同列组对应不同的第一局部数据。

10.一种数据处理装置,所述装置包括:</p>

11.一种电子设备,包括:

12.一种计算机可读存储介质,其上存储有计算机指令,该指令被处理器执行时实现如权利要求1-9中任一项所述方法的步骤。

...

【技术特征摘要】

1.一种数据处理方法,所述方法包括:

2.根据权利要求1所述的数据处理方法,所述查询指令包括查询范围和查询条件;

3.根据权利要求2所述的数据处理方法,所述查询范围包括至少一个列组的列查询范围;

4.根据权利要求3所述的数据处理方法,所述根据所述列组的第一局部数据的中间索引层信息和第二局部数据的中间索引层信息、以及所述列组的列查询范围,确定所述列组的列查询范围对应的第一行偏移范围,包括:

5.根据权利要求4所述的数据处理方法,所述查询范围包括主键范围;

6.根据权利要求2所述的数据处理方法,所述第一局部数据和所述第二...

【专利技术属性】
技术研发人员:任举谢振江赵裕众
申请(专利权)人:北京奥星贝斯科技有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1