一种数据倾斜治理方法及装置制造方法及图纸

技术编号:42734630 阅读:18 留言:0更新日期:2024-09-18 13:31
本公开提供了一种数据倾斜治理方法及装置,其中,该方法包括:生成待治理数据表的快照文件,对所述快照文件中的字节码数据进行解码,得到所述待治理数据表的原始数据;对所述待治理数据表的行键中首个字段进行反转散列处理,基于所述反转散列处理后的结果,对所述行键进行更新;根据更新后的行键组织所述原始数据,以实现所述待治理数据表的数据倾斜治理。该实施方式能够提高数据表中数据分布的均匀性,进而提高系统的稳定性与可用性。

【技术实现步骤摘要】

本专利技术涉及大数据计算领域,具体而言,涉及一种数据倾斜治理方法及装置


技术介绍

1、数据应用系统为了使用更加灵活的聚合维度组合方式进行数据查询,使用不同聚合维度从大到小的拼接方式组成行键,在此基础上使用行键前缀查询即可实现查询不同维度的批量数据,这样能够精准定位目标数据,并实现了高效查询、资源占用少、响应速度快等优点。

2、然而,这种携带业务逻辑的行键设计规则可能会导致行键的不均匀分布,也就是说,当组成行键的首个维度值分布较为集中时,势必会造成数据表的数据分布倾斜,大量数据集中在某个维度对应的分区下,导致该分区存储和查询压力过大,进而影响了系统的稳定性及可用性。


技术实现思路

1、有鉴于此,本公开实施例至少提供了一种数据倾斜治理方法、装置、电子设备及存储介质,能够提高数据表中数据分布的均匀性,进而提高系统的稳定性与可用性。

2、第一方面,本公开实施例提供了一种数据倾斜治理方法,该方法包括:

3、生成待治理数据表的快照文件,对所述快照文件中的字节码数据进行解码,得到所述待本文档来自技高网...

【技术保护点】

1.一种数据倾斜治理方法,其特征在于,包括:

2.根据权利要求1所述的方法,其特征在于,对所述快照文件中的字节码数据进行解码,得到所述待治理数据表的原始数据,包括:

3.根据权利要求1所述的方法,其特征在于,所述方法还包括:

4.根据权利要求3所述的方法,其特征在于,对完成数据倾斜治理后的待治理数据表进行正确性校验,包括:

5.根据权利要求3所述的方法,其特征在于,对完成数据倾斜治理后的待治理数据表进行正确性校验,包括:

6.根据权利要求1所述的方法,其特征在于,对所述待治理数据表的行键中第一字段进行反转散列处理,包括:

...

【技术特征摘要】

1.一种数据倾斜治理方法,其特征在于,包括:

2.根据权利要求1所述的方法,其特征在于,对所述快照文件中的字节码数据进行解码,得到所述待治理数据表的原始数据,包括:

3.根据权利要求1所述的方法,其特征在于,所述方法还包括:

4.根据权利要求3所述的方法,其特征在于,对完成数据倾斜治理后的待治理数据表进行正确性校验,包括:

5.根据权利要求3所述的方法,其特征在于,对完成数据倾斜治理后的待治理数据表进行正确性校验...

【专利技术属性】
技术研发人员:贾正阳贾建伟韩雷钧
申请(专利权)人:北京沃东天骏信息技术有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1