一种基于硬件的块层数据压缩框架制造技术

技术编号:25184503 阅读:46 留言:0更新日期:2020-08-07 21:12
本发明专利技术公开了一种基于硬件的块层数据压缩框架,涉及一种数据压缩框架,包括读流程模块、写流程模块、压缩处理模块、硬件交互子模块和拼装模块;所述压缩处理模块负责检测数据的可压缩性,选择压缩算法,启动压缩处理工作以及处理压缩之后的定向后续处理;所述硬件交互子模块负责与所述压缩处理模块进行交互,并通过异步通信的机制,将压缩工作交给压缩专用硬件来完成;所述拼装模块在压缩之后负责将不定长的已压缩数据拼装到一个数据块之中。本发明专利技术通过异步框架与硬件进行交互,将数据卸载到专用硬件上进行压缩,再将压缩后的数据块进行多线程的拼装,从而使得存储系统的压缩率和性能都得到提高。

【技术实现步骤摘要】
一种基于硬件的块层数据压缩框架
本专利技术涉及一种数据压缩框架,特别是涉及一种基于硬件的块层数据压缩框架。
技术介绍
块层压缩技术,应用于文件系统与底层存储设备之间,在数据的读写过程中引入压缩模块,将已压缩数据存入磁盘,将解压后的数据返回给上层用户。现有内核态的块层压缩技术,考虑到系统开销和延迟等问题,普遍使用了软件实现的快速压缩算法如LZ4等。然而现有技术由于使用软件实现的快速压缩算法,尽管在性能上得到了一定的满足,但是在压缩率上做出了牺牲。由于块层技术需要考虑存储数据要按照块大小去对齐,而压缩后的数据不定长,需要对压缩数据块进行拼凑。压缩率越差,压缩数据块越大,越不容易拼凑,而因此低压缩率算法的效果并不理想。而高压缩率的算法,所消耗的计算资源过多,很容易造成系统性能大幅下降。因此,本领域的技术人员致力于开发一种基于硬件的块层数据压缩框架,能够使内核态的块层数据压缩同时满足高压缩率和高性能。
技术实现思路
有鉴于现有技术的上述缺陷,本专利技术所要解决的技术问题是内核态的块层数据压缩如何同时满足高压缩率和高性能。...

【技术保护点】
1.一种基于硬件的块层数据压缩框架,其特征在于,包括读流程模块、写流程模块、压缩处理模块、硬件交互子模块和拼装模块;所述压缩处理模块负责检测数据的可压缩性,选择压缩算法,启动压缩处理工作以及处理压缩之后的定向后续处理;所述硬件交互子模块负责与所述压缩处理模块进行交互,并通过异步通信的机制,将压缩工作交给压缩专用硬件来完成;所述拼装模块在压缩之后负责将不定长的已压缩数据拼装到一个数据块之中。/n

【技术特征摘要】
1.一种基于硬件的块层数据压缩框架,其特征在于,包括读流程模块、写流程模块、压缩处理模块、硬件交互子模块和拼装模块;所述压缩处理模块负责检测数据的可压缩性,选择压缩算法,启动压缩处理工作以及处理压缩之后的定向后续处理;所述硬件交互子模块负责与所述压缩处理模块进行交互,并通过异步通信的机制,将压缩工作交给压缩专用硬件来完成;所述拼装模块在压缩之后负责将不定长的已压缩数据拼装到一个数据块之中。


2.如权利要求1所述的基于硬件的块层数据压缩框架,其特征在于,所述基于硬件的块层数据压缩框架位置处在内核态,上接文件系统或其他与块层直接交互的应用,下接本地或者网络存储设备。


3.如权利要求1所述的基于硬件的块层数据压缩框架,其特征在于,所述基于硬件的块层数据压缩框架得到请求后,首先判断所述请求是读还是写,然后由对应的所述读流程模块或所述写流程模块执行不同的处理流程。


4.如权利要求1所述的基于硬件的块层数据压缩框架,其特征在于,所述压缩算法包括基...

【专利技术属性】
技术研发人员:李健郭鹤林管海兵王鑫伟李令成
申请(专利权)人:上海交通大学
类型:发明
国别省市:上海;31

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1