数据落盘方法和系统、电子设备和存储介质技术方案

技术编号:45092200 阅读:14 留言:0更新日期:2025-04-25 18:28
本申请公开了一种数据落盘方法和系统、电子设备和存储介质,该方法包括:在获取到至少一个数据写入请求时,确定目标数据表的类型,并在目标数据表为第一类型数据表的情况下,预测在连续N个时间窗口内写入到至少一个内存空间中的预测数据量;并基于预测数据量确定每个时间窗口内触发落盘请求的时机,且在满足落盘请求触发条件时生成至少一个落盘请求;基于负载参数,将至少一个落盘请求分配到每个时间窗口所对应的至少一个服务节点上;以将各个内存空间中的数据分别落盘到至少一个服务节点对应的硬盘中。通过该方法解决了相关技术中分布式数据库的数据处理能力较低的技术问题,实现了提高分布式数据库的数据处理能力的技术效果。

【技术实现步骤摘要】

本申请涉及数据处理,尤其涉及一种数据落盘方法和系统、电子设备和存储介质


技术介绍

1、在hbase数据库中,对于写入频次较低的数据表,其memstore(rs节点的内存空间)中的数据积累相对缓慢,相关技术中通常依赖于hbase服务按照预设间隔时间进行定期检查,确定memstore中的数据是否需要落盘至各个rs节点对应的硬盘中,其中,rs(regionserver)用于对外提供读写服务。

2、然而,上述定期检查的方式可能会造成大量flush请求(数据落盘请求)在短时间内被集中触发,导致正常读写请求时间延迟激增、对硬盘负载造成压力过大等问题,从而造成hbase数据库的数据处理能力较低的技术问题。


技术实现思路

1、本申请提供了一种数据落盘方法和系统、电子设备和存储介质,以至少解决相关技术中hbase数据库的数据处理能力较低的问题。

2、根据本申请实施例的一个方面,提供了一种数据落盘方法,包括:响应于将目标数据写入到目标数据表中的至少一个数据写入请求,确定所述目标数据表的类型,其中,所述目本文档来自技高网...

【技术保护点】

1.一种数据落盘方法,其特征在于,

2.根据权利要求1所述的方法,其特征在于,

3.根据权利要求1所述的方法,其特征在于,

4.根据权利要求3所述的方法,其特征在于,

5.根据权利要求4所述的方法,其特征在于,

6.根据权利要求1所述的方法,其特征在于,

7.根据权利要求1所述的方法,其特征在于,

8.根据权利要求1所述的方法,其特征在于,

9.根据权利要求8所述的方法,其特征在于,

10.根据权利要求8所述的方法,其特征在于,

11.根据权利要求1至10中任一项所述的...

【技术特征摘要】

1.一种数据落盘方法,其特征在于,

2.根据权利要求1所述的方法,其特征在于,

3.根据权利要求1所述的方法,其特征在于,

4.根据权利要求3所述的方法,其特征在于,

5.根据权利要求4所述的方法,其特征在于,

6.根据权利要求1所述的方法,其特征在于,

7.根据权利要求1所述的方法,其特征在于,

8.根据权利要求1所述的方法,其特征在于,

9.根据权利要求8所述的方法,其特征在于,

10.根据权利要求8所述的方法,...

【专利技术属性】
技术研发人员:宋文豪
申请(专利权)人:苏州元脑智能科技有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1