一种用于分布式存储系统读写优化方法及装置制造方法及图纸

技术编号:29526273 阅读:30 留言:0更新日期:2021-08-03 15:12
本发明专利技术提供一种用于分布式存储系统读写优化方法及装置,所述方法步骤:S1.搭建分布式存储系统集群,将SSD盘设置为副本模式的高速缓存池,以及将HDD盘设置为纠删模式的普通存储池;S2.根据客户端读写请求的地址偏移和数据长度,将数据分块处理,并根据数据块与数据块阈值的关系,实现高速缓存池及普通存储池的分类存储与读取;S3.根据客户端读写请求的模式,调整高速缓存池数据水位,进行数据下刷,以及提取普通存储池数据到高速缓存池,进行数据上拉。本发明专利技术提高客户端访问速度,提高磁盘利用率,降低成本,解除SSD盘和HDD盘没有绑定关系,不管是SSD或者HDD盘损坏,都只是影响其负责的数据,大大减小损坏影响范围。

【技术实现步骤摘要】
一种用于分布式存储系统读写优化方法及装置
本专利技术属于分布式存储
,具体涉及一种用于分布式存储系统读写优化方法及装置。
技术介绍
目前对分布式存储系统功能需求越来越强大,既要保证存储容量,又要保证存储稳定性及速率。现有分布式存储系统通过副本模式保证稳定性,而采取常规副本模式,使得分布式存储系统的集群内磁盘空间利用率低,如3副本场景下磁盘利用率只有33%;现有分布式存储系统通常采用SSD盘和HDD盘相结合的方式,利用SSD盘速率快,HDD盘存储容量大的性能,将SSD盘和HDD盘绑定,以SSD作为HDD的缓存盘,但若故障一块SSD盘,将会影响多块HDD盘;现有分布式存储系统采用纠删模式保证存储数据的准确性,但若所有磁盘均采用纠删则对CPU、内存要求高,同时影响读/写性能。此为现有技术的不足,因此,针对现有技术中的上述缺陷,提供一种用于分布式存储系统读写优化方法及装置,是非常有必要的。
技术实现思路
针对现有技术的上述现有分布式存储系统的磁盘空间利用率低、存储性能得不到保证,且现有的纠删方式影响读写性能的缺陷,本专本文档来自技高网...

【技术保护点】
1.一种用于分布式存储系统读写优化方法,其特征在于,包括如下步骤:/nS1.搭建分布式存储系统集群,将SSD盘设置为副本模式的高速缓存池,以及将HDD盘设置为纠删模式的普通存储池;/nS2.根据客户端读写请求的地址偏移和数据长度,将数据分块处理,并根据数据块与数据块阈值的关系,实现高速缓存池及普通存储池的分类存储与读取;/nS3.根据客户端读写请求的模式,调整高速缓存池数据水位,进行数据下刷,以及提取普通存储池数据到高速缓存池,进行数据上拉。/n

【技术特征摘要】
1.一种用于分布式存储系统读写优化方法,其特征在于,包括如下步骤:
S1.搭建分布式存储系统集群,将SSD盘设置为副本模式的高速缓存池,以及将HDD盘设置为纠删模式的普通存储池;
S2.根据客户端读写请求的地址偏移和数据长度,将数据分块处理,并根据数据块与数据块阈值的关系,实现高速缓存池及普通存储池的分类存储与读取;
S3.根据客户端读写请求的模式,调整高速缓存池数据水位,进行数据下刷,以及提取普通存储池数据到高速缓存池,进行数据上拉。


2.如权利要求1所述的用于分布式存储系统读写优化方法,其特征在于,步骤S1具体步骤如下:
S11.搭建分布式存储系统集群;
S12.将SSD盘组成高速缓存池,并配置高速缓存池的冗余模式为副本;
S13.将HDD盘组成普通存储池,并配置普通存储池的冗余模式为纠删。


3.如权利要求1所述的用于分布式存储系统读写优化方法,其特征在于,步骤S2具体步骤如下:
S21.获取客户端读写请求的地址偏移和数据长度,设置数据块阈值,将数据分块处理;
当客户端请求为写请求时,进入步骤S22;
当客户端请求为读请求时,进入步骤S23;
S22.判断写请求数据块是否大于数据块阈值,将小于等于数据块阈值的写请求数据块存储到高速缓存池,以及将大于数据块阈值的写请求数据块根据地址偏移和数据长度进行拆分,拆分后数据块分类存储到高速缓存池和普通存储池,进入步骤S3;
S23.判断读请求数据块是否大于数据块阈值,从高速缓存池读取小于等于数据块阈值的读取请求数据块,以及对于大于数据块阈值的读请求数据块根据地址偏移和数据长度分别从高速缓存池和普通存储池读取,再将两个读取部分合并。


4.如权利要求3所述的用于分布式存储系统读写优化方法,其特征在于,步骤S22具体步骤如下:
S221.判断写请求数据块是否大于数据块阈值;
若否,进入步骤S222;
若是,进入步骤S223;
S222.将写请求数据块存储到高速缓存池,并将写请求数据块的地址偏移和长度写入高速缓存池,进入步骤S3;
S223.获取写请求数据块的地址偏移和数据长度与纠删模式下处理数据单位长度进行比对,将写请求数据块划分为对齐数据块和非对齐数据块;
S224.将对齐数据块写入普通存储池,而将非对齐数据块写入高速缓存池,并将写请求数据块的地址偏移和长度写入高速缓存池,进入步骤S3。


5.如权利要求3所述的用于分布式存储系统读写优化方法,其特征在于,步骤S23具体步骤如下:
S231.判断读请求数据块是否大于数据块阈值;
若否,进入步骤S232;
若是,进入步骤S233;
S232.根据地址偏移和长度...

【专利技术属性】
技术研发人员:彭超峰侯斌
申请(专利权)人:济南浪潮数据技术有限公司
类型:发明
国别省市:山东;37

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1