当前位置: 首页 > 专利查询>重庆大学专利>正文

一种基于LSM树的磁盘缓冲区设置方法技术

技术编号:43437471 阅读:17 留言:0更新日期:2024-11-27 12:44
本发明专利技术涉及一种基于LSM树的磁盘缓冲区设置方法,属于计算机数据处理技术领域。本该方法针对数据存储过程中可能出现的瞬时数据大量涌入的情况,特别在不同层级的磁盘存储之间设立了缓冲区域。这些缓冲区能够有效提取上一层的余量数据,从而缓解数据拥堵现象,并对数据进行数值抽象化处理及初步排序,以便数据能够更快速地写入到下一层磁盘中。该方法不仅防止了数据堵塞和丢失,同时提高了在数据过载情况下各层数据合并的速度。本发明专利技术考虑过载数据在磁盘存储中出现的拥堵情况,在磁盘中用不同层级区块设置缓冲区来缓解数据过载并优化数据流动和存储效率,极大增强了数据处理系统的稳定性和效率。

【技术实现步骤摘要】

本专利技术属于计算机数据处理,涉及一种基于lsm树的磁盘缓冲区设置方法。


技术介绍

1、lsm(log-structured merge-tree)是一种优化数据存储与管理的有序异地更新结构,特别适用于高频写入场景。这种结构能有效处理海量数据的瞬时写入,保证在数据处理过程中的承载能力。传统lsm技术通过不断将数据写入磁盘,并采取层级分区的方式进行数据存储,以此来减少数据冗余。它通过将最新的sst(sorted string table)文件与一个或多个旧的sst合并,从而实现数据压缩,减少写放大现象,并提升磁盘使用效率。

2、当前,面对海量数据的瞬时写入,传统lsm在磁盘不同层级间的存储延时可能导致数据处理不均匀,从而在磁盘的不同层级间产生空闲或满载的极端情况。这不仅降低了磁盘的整体利用率,还减缓了数据的处理吞吐速率。

3、因此,亟需一种新的处理方法,以提高空闲磁盘的使用效率,避免数据处理过程中的拥堵现象,并增强数据处理的吞吐速率和磁盘的整体利用率。


技术实现思路

1、有鉴于此,本专利本文档来自技高网...

【技术保护点】

1.一种基于LSM树的磁盘缓冲区设置方法,其特征在于,该方法具体包括以下步骤:

2.根据权利要求1所述的基于LSM树的磁盘缓冲区设置方法,其特征在于,步骤S5中,确定是否触发过载预警的具体流程为:在数据从内存写入磁盘时,首先进入输入量判断模块对数据进行实时监测,如果数据输入量超过所设定的阈值,则进入剩余空间判断模块,实施存储空间动态调整,未达到则数据正常写入。

3.根据权利要求1所述的基于LSM树的磁盘缓冲区设置方法,其特征在于,步骤S6中,对磁盘内存剩余空间进行逐层检查的具体流程为:如果数据输入量超过所设定的阈值,则从最低层磁盘空间进行判断,其剩余空间大小是否达...

【技术特征摘要】

1.一种基于lsm树的磁盘缓冲区设置方法,其特征在于,该方法具体包括以下步骤:

2.根据权利要求1所述的基于lsm树的磁盘缓冲区设置方法,其特征在于,步骤s5中,确定是否触发过载预警的具体流程为:在数据从内存写入磁盘时,首先进入输入量判断模块对数据进行实时监测,如果数据输入量超过所设定的阈值,则进入剩余空间判断模块,实施存储空间动态调整,未达到则数据正常写入。

3.根据权利要求1所述的基于lsm树的磁盘缓冲区设置方法,其特...

【专利技术属性】
技术研发人员:唐小林陈止戈桂豪杰张志刚吴衍东张岩张焜埸
申请(专利权)人:重庆大学
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1