数据的读写方法、装置、电子设备及存储介质制造方法及图纸

技术编号:37432885 阅读:33 留言:0更新日期:2023-05-05 19:47
本申请公开了数据的读写方法、装置、电子设备及存储介质。该方法包括:在待写入数据的文件大小小于预设文件大小时,将待写入数据进行填充,得到N倍文件大小的原始填充数据;其中,N为正整数;利用纠删码将原始填充数据拆分为N个数据块并编码,以得到M块校验数据块;其中,N个数据块中存在与待写入数据对应的目标数据块;将目标数据块以及M块校验数据块分别存储至一存储节点,并记录目标数据块的存储位置。通过上述方式,减少与多个存储节点的交互,进而节省了每秒输入/输出操作数的消耗,能够降低了读数据的时延,提升了数据读取效率。提升了数据读取效率。提升了数据读取效率。

【技术实现步骤摘要】
数据的读写方法、装置、电子设备及存储介质


[0001]本申请涉及数据读写
,特别是涉及数据的读写方法、装置、电子设备及存储介质。

技术介绍

[0002]随着存储技术的不断发展,延伸出应对不同应用场景的存储系统。在处理大量数据方面,一般使用分布式存储系统,其中为了保持数据存储的可靠性,常用纠删码技术提高存储系统的可靠性。
[0003]但是,如何解决在纠删码技术下小文件读取影响存储系统性能的问题,是本领域技术人员关注的热点问题。

技术实现思路

[0004]本申请提供了数据的读写方法、装置、电子设备及存储介质,能够减少与多个存储节点的交互,进而节省了每秒输入/输出操作数的消耗,能够降低了读数据的时延,提升了数据读取效率。
[0005]第一方面,本申请提供一种数据的读写方法,该方法包括:在待写入数据的文件大小小于预设文件大小时,将待写入数据进行填充,得到N倍文件大小的原始填充数据;其中,N为正整数;利用纠删码将原始填充数据拆分为N个数据块并编码,以得到M块校验数据块;其中,N个数据块中存在与待写入数据对应的目标数据本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种数据的读写方法,其特征在于,所述方法包括:在待写入数据的文件大小小于预设文件大小时,将所述待写入数据进行填充,得到N倍文件大小的原始填充数据;其中,N为正整数;利用纠删码将所述原始填充数据拆分为N个数据块并编码,以得到M块校验数据块;其中,N个数据块中存在与所述待写入数据对应的目标数据块;将所述目标数据块以及所述M块校验数据块分别存储至一存储节点,并记录所述目标数据块的存储位置。2.根据权利要求1所述的方法,其特征在于,所述方法进一步包括:在读取所述待写入数据时,基于所述存储位置从对应的存储节点中读取所述目标数据块,得到所述待写入数据。3.根据权利要求2所述的方法,其特征在于,所述在读取所述待写入数据时,基于所述存储位置从对应的存储节点中读取所述目标数据块,得到所述待写入数据,包括:在读取所述待写入数据时,获取所述待写入数据对应的元数据;所述元数据中记录有所述待写入数据的文件大小;若所述待写入数据的文件大小小于所述预设文件大小,获取所述元数据中的存储位置;基于所述存储位置从对应的存储节点中读取所述目标数据块,得到所述待写入数据。4.根据权利要求1所述的方法,其特征在于,在读取所述待写入数据时,若所述目标数据块发生数据丢失,则利用所述M块校验数据块进行解码,以恢复所述目标数据块对应的数据。5.根据权利要求4所述的方法,其特征在于,所述若所述目标数据块发生数据丢失,则利用所述M块校验数据块进行解码,以恢复所述目标数据块对应的数据,包括:若所述目标数据块发生数据丢失,则将丢失的所述数据所对应的行数据修改为标志值;判断所述标志值与设定标志值是否一致;若是,则确定所述目标数据块发生数据丢失,则利用所述M块校验数据块进行解码,以恢复所述目标数据块对应的数据。6.根据权利...

【专利技术属性】
技术研发人员:王志豪
申请(专利权)人:深圳市欢太科技有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1