一种数据聚合方法、装置、分布式存储系统及存储介质制造方法及图纸

技术编号:42650412 阅读:34 留言:0更新日期:2024-09-06 01:43
本申请实施例提供了一种数据聚合方法、装置、分布式存储系统及存储介质,应用于分布式存储系统,分布式存储系统包括至少一个数据聚合文件,数据聚合文件用于聚合存储多个数据对象,该方法包括:获取待处理数据聚合文件对应的空洞压缩代价,其中,待处理数据聚合文件包括有效数据对象以及空洞,空洞压缩代价用于表征迁移有效数据对象至新的存储空间以释放空洞所需的代价,将对应的空洞压缩代价不大于预设阈值的待处理数据聚合文件中的有效数据对象,写入新的数据聚合文件,删除对应的空洞压缩代价不大于预设阈值的待处理数据聚合文件。本申请实施例可以提高存储空间利用率。

【技术实现步骤摘要】

本申请涉及分布式数据存储,特别是涉及一种数据聚合方法、装置、分布式存储系统及存储介质


技术介绍

1、分布式对象存储是一种数据存储技术,可以将数据分散在多个节点中保存,并通过网络进行访问和管理。在当前的分布式对象存储系统中,针对小对象已经实现了对象聚合的功能,即把多个小对象聚合为一个大对象,并且实现了对覆盖写的小对象进行聚合。其中,小对象是大小小于一定阈值的数据。

2、在用户删除小对象或小对象过期的情况下,这些小对象所占据的存储空间会形成空洞。由于用户新上传的小对象的大小往往与删除的小对象的大小不同,无法将新上传的小对象直接写入空洞,这样就会导致空洞无法被有效利用,存储空间利用率不高。


技术实现思路

1、本申请实施例的目的在于提供一种数据聚合方法、装置、分布式存储系统及存储介质,以提高存储空间利用率。具体技术方案如下:

2、第一方面,本申请实施例提供了一种数据聚合方法,应用于分布式存储系统,所述分布式存储系统包括至少一个数据聚合文件,所述数据聚合文件用于聚合存储多个数据对象,所述方法包本文档来自技高网...

【技术保护点】

1.一种数据聚合方法,其特征在于,应用于分布式存储系统,所述分布式存储系统包括至少一个数据聚合文件,所述数据聚合文件用于聚合存储多个数据对象,所述方法包括:

2.根据权利要求1所述的方法,其特征在于,所述空洞压缩代价的计算方式,包括:

3.根据权利要求2所述的方法,其特征在于,所述空洞的离散程度的计算方式,包括:

4.根据权利要求3所述的方法,其特征在于,所述计算所述连续空洞中第一预设位置和第二预设位置在该数据聚合文件中对应的位置之间的跨度,作为该数据聚合文件对应的空洞的离散程度的步骤,包括:

5.根据权利要求2所述的方法,其特征在于,所述...

【技术特征摘要】

1.一种数据聚合方法,其特征在于,应用于分布式存储系统,所述分布式存储系统包括至少一个数据聚合文件,所述数据聚合文件用于聚合存储多个数据对象,所述方法包括:

2.根据权利要求1所述的方法,其特征在于,所述空洞压缩代价的计算方式,包括:

3.根据权利要求2所述的方法,其特征在于,所述空洞的离散程度的计算方式,包括:

4.根据权利要求3所述的方法,其特征在于,所述计算所述连续空洞中第一预设位置和第二预设位置在该数据聚合文件中对应的位置之间的跨度,作为该数据聚合文件对应的空洞的离散程度的步骤,包括:

5.根据权利要求2所述的方法,其特征在于,所述根据该数据聚合文件中数据对象参数与迁移所述有效数据对象至新的存储空间以释放空洞所需的代价之间的关系,计算得到空洞压缩代价的步骤,包括:

6.根据权...

【专利技术属性】
技术研发人员:饶沛
申请(专利权)人:杭州海康威视系统技术有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1