【技术实现步骤摘要】
本专利技术涉及分布式存储系统领域,特别是涉及一种分布式存储系统数据处理方法、程序产品、装置及介质。
技术介绍
1、目前,在分布式存储系统的实际应用中,为了保证数据的可靠性,往往会采用冗余策略,常用的冗余技术有纠删码(erasurecode)和副本两种。冗余策略的使用会导致客户在写入一次数据时,后端存储系统往往需要转发和写入多次,以保证数据的冗余存储。而存储系统中的数据转发和写入依赖于网卡实现,所以冗余策略毫无疑问地会成倍增加网卡的负担。这种负担在以往多以机械硬盘(hard disk drive,hdd)作为底层存储设备的系统中并不明显,带宽较低的底层存储设备仍然是存储系统的性能瓶颈。
2、但随着存储技术的不断发展,固态存储设备成本不断降低,越来越多的存储厂商开始使用固态硬盘作为底层存储设备。尤其是非易失性内存主机控制器接口规范(nvmexpress,nvme)等协议的使用,更是极大的提升了底层设备的带宽和每秒操作数(ops),并降低了时延消耗。当前普通的固态硬盘带宽可以达到几百mb/s,而使用nvme和高速串行计算机扩展总线
...【技术保护点】
1.一种分布式存储系统数据处理方法,其特征在于,应用于分布式存储系统中的客户端侧;其中,所述客户端预先部署有纠删码计算模块,所述纠删码计算模块为集成有纠删码算法以及所述纠删码算法所使用接口的模块;所述客户端在初始化时预先加载有纠删码算法所需使用的库文件;所述客户端还订阅有存储池中的数据分布映射更新;
2.根据权利要求1所述的分布式存储系统数据处理方法,其特征在于,所述数据传输请求为数据写入请求;
3.根据权利要求2所述的分布式存储系统数据处理方法,其特征在于,调用所述纠删码计算模块对所述数据传输任务进行处理,以得到多个传输子任务包括:
< ...【技术特征摘要】
1.一种分布式存储系统数据处理方法,其特征在于,应用于分布式存储系统中的客户端侧;其中,所述客户端预先部署有纠删码计算模块,所述纠删码计算模块为集成有纠删码算法以及所述纠删码算法所使用接口的模块;所述客户端在初始化时预先加载有纠删码算法所需使用的库文件;所述客户端还订阅有存储池中的数据分布映射更新;
2.根据权利要求1所述的分布式存储系统数据处理方法,其特征在于,所述数据传输请求为数据写入请求;
3.根据权利要求2所述的分布式存储系统数据处理方法,其特征在于,调用所述纠删码计算模块对所述数据传输任务进行处理,以得到多个传输子任务包括:
4.根据权利要求3所述的分布式存储系统数据处理方法,其特征在于,所述存储节点包括:主节点和从节点;
5.根据权利要求4所述的分布式存储系统数据处理方法,其特征在于,还包括:
6.根据权利要求5所述的分布式存储系统数据处理方法,其特征在于,从各所述存储节点的版本日志中,选取一个版本日志作为权威日志包括:
7.根据权利要求1所述的分布式存储系统数据处理方法,其特征在于,所述数据传输请求为数据读取请求;
8.根据权利要求7所述的分布式存储系统数据处理方法,其特征在于,调用所述纠删码计算模块对所述数据传...
【专利技术属性】
技术研发人员:赵嘉祺,张洪鑫,刘亚阔,
申请(专利权)人:济南浪潮数据技术有限公司,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。