将数据写入存储集群的方法、装置、存储介质及电子设备制造方法及图纸

技术编号:38858181 阅读:25 留言:0更新日期:2023-09-17 10:02
本公开提供了一种将数据写入存储集群的方法、装置、计算机程序产品、非暂时性计算机可读存储介质及电子设备。该方法包括:根据第一文件的大小,从预创建的多个存储块中确定出目标存储块,其中,存储块位于存储集群之外的存储位置;将第一文件写入目标存储块;将目标存储块中的第一文件写入存储集群。本公开的实施例能够提高在提高数据写入效率的同时充分利用存储资源。用存储资源。用存储资源。

【技术实现步骤摘要】
将数据写入存储集群的方法、装置、存储介质及电子设备


[0001]本公开总体上涉及计算机
,更具体地涉及一种将数据写入存储集群的方法、装置、计算机程序产品、非暂时性计算机可读存储介质及电子设备。

技术介绍

[0002]本部分旨在介绍本领域的一些方面,其可以与下面描述的和/或要求保护的本公开的各个方面相关。相信本部分有助于提供背景信息以便于更好地理解本公开的各个方面。因此,应该理解的是这些陈述应该从这个角度来理解,而不是作为对现有技术的承认。
[0003]纠删码(erasure coding,EC)存储集群因其高可靠性、高存储效率等特点,被越来越多的企业选择为最终存储方案。然而,由于EC存储需要对数据进行编码和解码,增加了数据访问和传输的开销,因此需要关注数据读写效率。
[0004]EC存储集群条带大小是固定的,对于大小小于条带固定大小的文件,通常需要等待其它文件进行合并后再EC编码,如果当前没有其它大小合适的待写入文件,则该文件的写入效率会降低;如果不等待其它文件合并,直接EC编码,则意味着小于条带大小的文件占用了整个条带大本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种将数据写入存储集群的方法,包括:根据第一文件的大小,从预创建的多个存储块中确定出目标存储块,其中,所述存储块位于所述存储集群之外的存储位置;将所述第一文件写入所述目标存储块;将所述目标存储块中的第一文件写入所述存储集群。2.根据权利要求1所述的方法,其中,所述存储集群为纠删码存储集群,所述存储块的大小根据所述纠删码存储集群中条带的数据块的大小确定。3.根据权利要求2所述的方法,其中,所述从预创建的多个存储块中确定出目标存储块,包括:从多个存储块中确定剩余容量超过并且最接近所述第一文件的大小的存储块,得到所述目标存储块。4.根据权利要求2所述的方法,其中,从预创建的多个存储块中确定出目标存储块,还包括:在所述多个存储块中每个存储块的剩余容量均小于所述第一文件的大小的情况下,将所述第一文件拆分为第一部分和第二部分,其中,所述第一部分的大小等于至少一个存储块的大小,所述第二部分的大小小于所述多个存储块的剩余容量中的最大值;将所述至少一个存储块确定为用于存储所述第一部分的第一目标存储块;将所述多个存储块中剩余容量大于并且最接近所述第二部分的大小的存储块确定为用于存储所述第二部分的第二目标存储块。5.根据权利要求1所述的方法,其中,所述方法还包括:记录所述第一文件的文件标识和所述目标存储块的存储块标识之间的对应关系。6.根据权利要求1所述的方法,其中,所述将所述目标存储块中的第一文件写入所述存储集群,包括:在所述目标存储块写满的情况下,将所述目标存储块中的第一文件写入所述存储集群。7.根据权利要求6所述的方法,其中,将所述目标存储块中的第一文件...

【专利技术属性】
技术研发人员:刘易
申请(专利权)人:上海哔哩哔哩科技有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1