【技术实现步骤摘要】
本专利技术属于计算机数据处理,涉及一种基于lsm树的磁盘缓冲区设置方法。
技术介绍
1、lsm(log-structured merge-tree)是一种优化数据存储与管理的有序异地更新结构,特别适用于高频写入场景。这种结构能有效处理海量数据的瞬时写入,保证在数据处理过程中的承载能力。传统lsm技术通过不断将数据写入磁盘,并采取层级分区的方式进行数据存储,以此来减少数据冗余。它通过将最新的sst(sorted string table)文件与一个或多个旧的sst合并,从而实现数据压缩,减少写放大现象,并提升磁盘使用效率。
2、当前,面对海量数据的瞬时写入,传统lsm在磁盘不同层级间的存储延时可能导致数据处理不均匀,从而在磁盘的不同层级间产生空闲或满载的极端情况。这不仅降低了磁盘的整体利用率,还减缓了数据的处理吞吐速率。
3、因此,亟需一种新的处理方法,以提高空闲磁盘的使用效率,避免数据处理过程中的拥堵现象,并增强数据处理的吞吐速率和磁盘的整体利用率。
技术实现思路
...
【技术保护点】
1.一种基于LSM树的磁盘缓冲区设置方法,其特征在于,该方法具体包括以下步骤:
2.根据权利要求1所述的基于LSM树的磁盘缓冲区设置方法,其特征在于,步骤S5中,确定是否触发过载预警的具体流程为:在数据从内存写入磁盘时,首先进入输入量判断模块对数据进行实时监测,如果数据输入量超过所设定的阈值,则进入剩余空间判断模块,实施存储空间动态调整,未达到则数据正常写入。
3.根据权利要求1所述的基于LSM树的磁盘缓冲区设置方法,其特征在于,步骤S6中,对磁盘内存剩余空间进行逐层检查的具体流程为:如果数据输入量超过所设定的阈值,则从最低层磁盘空间进行判断,
...【技术特征摘要】
1.一种基于lsm树的磁盘缓冲区设置方法,其特征在于,该方法具体包括以下步骤:
2.根据权利要求1所述的基于lsm树的磁盘缓冲区设置方法,其特征在于,步骤s5中,确定是否触发过载预警的具体流程为:在数据从内存写入磁盘时,首先进入输入量判断模块对数据进行实时监测,如果数据输入量超过所设定的阈值,则进入剩余空间判断模块,实施存储空间动态调整,未达到则数据正常写入。
3.根据权利要求1所述的基于lsm树的磁盘缓冲区设置方法,其特...
【专利技术属性】
技术研发人员:唐小林,陈止戈,桂豪杰,张志刚,吴衍东,张岩,张焜埸,
申请(专利权)人:重庆大学,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。