【技术实现步骤摘要】
数据存储方法及系统、存储介质
本申请涉及数据存储领域,特别涉及一种数据存储方法及系统、存储介质。
技术介绍
网络、宽带、软件、智能设备等的迅速发展,带来了数据的爆炸式增长,如今的智能社会,更是进入了以数据为生产资料的时代。因此,智能时代的人们对存储的数据在可靠性、读写性能、安全等提出了更高的要求。早期的分布式存储系统主要采用副本技术,副本技术可以防止数据的丢失,但由于副本技术需要消耗等倍数的额外存储空间,随着数据存储量越来越大,造成硬件成本急剧上升。为了提高存储系统的可靠性和安全性以及降低成本,人们发展了纠删码技术,相对于副本技术,纠删码能以低得多的存储空间代价获得相似的可靠性。在分布式存储系统中,为实现纠删码存储,需要将每个存储节点中收到的数据进行合并然后通过纠删码分布到不同的存储节点中。当前存储系统中为实现纠删码存储,有两种常见存储方式。方式一:通过先将数据写入到多副本存储或其他持久性存储中,然后异步读出数据,然后将读出的数据通过计算纠删码分散到不同存储节点中。此种方式有以下缺点: ...
【技术保护点】
1.一种数据存储方法,其特征在于,包括步骤:/n将内存合并缓存区域划分为多个由N个数据块和M个校验块构成的纠删码条带;/n将待存储的数据特征与数据块位置进行匹配;/n将匹配好的数据存入对应的数据块位置;/n当N个数据块写满后,计算M个校验块;/n将N个数据块和M个校验块存储到存储节点中。/n
【技术特征摘要】
1.一种数据存储方法,其特征在于,包括步骤:
将内存合并缓存区域划分为多个由N个数据块和M个校验块构成的纠删码条带;
将待存储的数据特征与数据块位置进行匹配;
将匹配好的数据存入对应的数据块位置;
当N个数据块写满后,计算M个校验块;
将N个数据块和M个校验块存储到存储节点中。
2.根据权利要求1所述的数据存储方法,其特征在于,将匹配好的数据存入对应的数据块位置时,优先放入已经写入数据的纠删码条带缓存区的数据块中。
3.根据权利要求1或2所述的数据存储方法,其特征在于,当存入的数据为相同的数据流时,其步骤包括:
(1)若数据长度大于N个数据块,则计算纠删码;
(2)若数据长度小于N个数据块但大于一个数据块长度,则将每个写满的数据块放入纠删码条带缓冲区的数据块中,其余数据等待此数据流满一个数据块大小:
若...
【专利技术属性】
技术研发人员:许式伟,谢勇,时嘉贇,
申请(专利权)人:上海七牛信息技术有限公司,
类型:发明
国别省市:上海;31
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。