分布式存储系统数据处理方法、程序产品、装置及介质制造方法及图纸

技术编号:42825905 阅读:17 留言:0更新日期:2024-09-24 21:01
本发明专利技术公开一种分布式存储系统数据处理方法、程序产品、装置及介质,涉及分布式存储系统技术领域,用于实现分布式存储系统的数据处理,针对目前系统中由网卡性能上限所带来的性能瓶颈,提供一种分布式存储系统数据处理方法,通过在客户端中预先部署纠删码计算模块、订阅存储池中的数据分布map更新,实现将对业务数据的纠删码计算和分布计算过程从主节点上拉到客户端中实现。由客户端直接向存储节点下发相应的传输子任务,以省略其中客户端向主节点发送业务数据的流程,也即可以使网卡省去一次业务数据量的数据传输,从而减轻网卡负担,可以缓解由网卡上限所带来的分布式存储系统性能瓶颈。

【技术实现步骤摘要】

本专利技术涉及分布式存储系统领域,特别是涉及一种分布式存储系统数据处理方法、程序产品、装置及介质


技术介绍

1、目前,在分布式存储系统的实际应用中,为了保证数据的可靠性,往往会采用冗余策略,常用的冗余技术有纠删码(erasurecode)和副本两种。冗余策略的使用会导致客户在写入一次数据时,后端存储系统往往需要转发和写入多次,以保证数据的冗余存储。而存储系统中的数据转发和写入依赖于网卡实现,所以冗余策略毫无疑问地会成倍增加网卡的负担。这种负担在以往多以机械硬盘(hard disk drive,hdd)作为底层存储设备的系统中并不明显,带宽较低的底层存储设备仍然是存储系统的性能瓶颈。

2、但随着存储技术的不断发展,固态存储设备成本不断降低,越来越多的存储厂商开始使用固态硬盘作为底层存储设备。尤其是非易失性内存主机控制器接口规范(nvmexpress,nvme)等协议的使用,更是极大的提升了底层设备的带宽和每秒操作数(ops),并降低了时延消耗。当前普通的固态硬盘带宽可以达到几百mb/s,而使用nvme和高速串行计算机扩展总线标准(pci-exp本文档来自技高网...

【技术保护点】

1.一种分布式存储系统数据处理方法,其特征在于,应用于分布式存储系统中的客户端侧;其中,所述客户端预先部署有纠删码计算模块,所述纠删码计算模块为集成有纠删码算法以及所述纠删码算法所使用接口的模块;所述客户端在初始化时预先加载有纠删码算法所需使用的库文件;所述客户端还订阅有存储池中的数据分布映射更新;

2.根据权利要求1所述的分布式存储系统数据处理方法,其特征在于,所述数据传输请求为数据写入请求;

3.根据权利要求2所述的分布式存储系统数据处理方法,其特征在于,调用所述纠删码计算模块对所述数据传输任务进行处理,以得到多个传输子任务包括:

<p>4.根据权利要求...

【技术特征摘要】

1.一种分布式存储系统数据处理方法,其特征在于,应用于分布式存储系统中的客户端侧;其中,所述客户端预先部署有纠删码计算模块,所述纠删码计算模块为集成有纠删码算法以及所述纠删码算法所使用接口的模块;所述客户端在初始化时预先加载有纠删码算法所需使用的库文件;所述客户端还订阅有存储池中的数据分布映射更新;

2.根据权利要求1所述的分布式存储系统数据处理方法,其特征在于,所述数据传输请求为数据写入请求;

3.根据权利要求2所述的分布式存储系统数据处理方法,其特征在于,调用所述纠删码计算模块对所述数据传输任务进行处理,以得到多个传输子任务包括:

4.根据权利要求3所述的分布式存储系统数据处理方法,其特征在于,所述存储节点包括:主节点和从节点;

5.根据权利要求4所述的分布式存储系统数据处理方法,其特征在于,还包括:

6.根据权利要求5所述的分布式存储系统数据处理方法,其特征在于,从各所述存储节点的版本日志中,选取一个版本日志作为权威日志包括:

7.根据权利要求1所述的分布式存储系统数据处理方法,其特征在于,所述数据传输请求为数据读取请求;

8.根据权利要求7所述的分布式存储系统数据处理方法,其特征在于,调用所述纠删码计算模块对所述数据传...

【专利技术属性】
技术研发人员:赵嘉祺张洪鑫刘亚阔
申请(专利权)人:济南浪潮数据技术有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1