一种数据读取方法、系统、装置及终端制造方法及图纸

技术编号:32817783 阅读:8 留言:0更新日期:2022-03-26 20:14
本发明专利技术公开了一种数据读取方法、系统、装置及终端,该方案首先获取当前周期内终端发送的待读取数据的数据特征,在判定待读取数据不在高速缓存池中且当前周期内未完成对待读取数据的读取时,则在根据该数据特征判定终端对于待读取数据的全部进行读取时,构造对待读取数据的预读请求,并将预读请求及待读取数据的数据特征发送至慢速数据池以将待读取数据从慢速数据池中全部提取至高速缓存池中。可见,针对现有技术中高速缓冲池中的非热点数据被下刷到慢速缓冲池后,终端下次待读取的数据正好在是该非热点数据的情况,该方案通过建立上述数据预读策略提高了对该种情况下的待读取数据的读取效率,进而保证了整个分布式存储系统的工作性能。统的工作性能。统的工作性能。

【技术实现步骤摘要】
一种数据读取方法、系统、装置及终端


[0001]本专利技术涉及数据存储领域,特别是涉及一种数据读取方法、系统、装置及终端。

技术介绍

[0002]在数据分布式存储系统中,通常基于一些高速固态存储设备如SSD(Solid State Device,固态存储设备)等创建高速缓存池,基于一些低速机械存储设备如HDD(Hard Disk Drive,机械存储设备)等创建慢速数据池,该慢速数据池的存储容量很大且存储着所有的数据;高度缓存池的存储容量有限且其中仅存储有所有的数据中被高频访问的热点数据以便需要时能够快速读取。
[0003]对于热点数据的判定与该数据一段时间内被访问的次数有关,当该数据在该时间段内被访问的次数降低则会被判定为非热点数据。考虑到用于创建高速缓存池的高速存储设备的设备容量是有限的,因此,需要定期对自身存储的数据进行更新,即将当前存储的非热点数据均下刷到慢速数据池中。这导致若终端下一次待读取的数据若正好是被下刷到慢速数据池中的非热点数据时,则首先由高速缓存池中的OSD(Object Storage Device,对象存储资源)进程判断此次读取请求不在自身存储中,因此将该读取请求下发至慢速数据池中的OSD进程,由慢速数据池中的OSD进程控制将与该请求对应的数据返回终端。而慢速数据池的数据读取速度比高速缓存池的数据读取速度要慢的多,导致响应的时间变长,进而影响整个分布式存储系统的工作性能。

技术实现思路

[0004]本专利技术的目的是提供一种数据读取方法、系统、装置及终端,通过建立上述数据预读策略提高了对该种情况下的待读取数据的读取效率,进而保证了整个分布式存储系统的工作性能。
[0005]为解决上述技术问题,本专利技术提供了一种数据读取方法,包括:获取当前周期内终端发送的待读取数据的数据特征;在根据所述数据特征判定所述待读取数据不在所述终端的高速缓存池中且所述当前周期内未完成对所述待读取数据的读取时,根据所述数据特征判断所述终端是否对所述待读取数据的全部进行读取;若是,构造对所述待读取数据的预读请求;将所述预读请求及所述待读取数据的数据特征发送至所述终端的慢速数据池以将所述待读取数据从所述慢速数据池中全部提取至所述高速缓存池。
[0006]优选的,所述数据特征包括OID标识、数据偏移量及数据长度,其中,不同的所述待读取数据的OID标识不同;将所述预读请求及所述待读取数据的数据特征发送至所述终端中的慢速数据池以将所述待读取数据从所述慢速数据池中全部提取至所述高速缓存池中,包括:将所述预读请求及所述待读取数据的OID标识发送至所述终端中的慢速数据池以
将所述待读取数据从所述慢速数据池中全部提取至所述高速缓存池中。
[0007]优选的,所述高速缓存池还包括预存的OID标识

数据总长度对应关系;根据所述数据特征判定在所述当前周期内未完成对所述待读取数据的读取,包括:根据所述待读取数据的OID标识从所述OID标识

数据总长度对应关系中获取所述待读取数据的数据总长度;判断所述当前周期内获取的所述待读取数据的数据长度是否小于所述数据总长度;若是,判定在所述当前周期内未完成对所述待读取数据的读取。
[0008]优选的,所述高速缓存池还包括缓存模块;所述缓存模块用于存储获取到的所述待读取数据的数据特征;获取当前周期内终端发送的待读取数据的数据特征之后,还包括:在根据所述数据特征判定所述待读取数据不在所述终端的高速缓存池中且所述当前周期内已完成对所述待读取数据的读取时,清除所述缓存模块中存储的在所述当前周期内获取到的所述待读取数据的数据特征。
[0009]优选的,在根据所述数据特征判定所述终端不是对所述待读取数据的全部进行读取之后,还包括:清除所述缓存模块中存储的在所述当前周期内获取到的所述待读取数据的数据特征。
[0010]优选的,将所述预读请求及所述待读取数据的数据特征发送至所述终端的慢速数据池之后,还包括:清除所述缓存模块中存储的在所述当前周期内获取到的所述待读取数据的数据特征。
[0011]优选的,根据所述数据特征判定所述终端对所述待读取数据的全部进行读取,包括:统计所述当前周期内获取到所述待读取数据的OID标识的次数;判断所述次数是否不小于预设读取次数阈值,其中所述预设读取次数阈值为不小于2的整数;若是,在判定从第j个所述数据偏移量作为开始位移动第j个所述数据长度后得到的数据读取终位与第j+1个所述数据偏移量之间的差值小于预设数据读取偏差时,判定所述终端对所述待读取数据的全部进行读取,其中,1≤j≤所述预设读取次数阈值

1。
[0012]为解决上述技术问题,本专利技术还提供了一种数据读取系统,包括:获取单元,用于获取当前周期内终端发送的待读取数据的数据特征;判断单元,在根据所述数据特征判定所述待读取数据不在所述终端的高速缓存池中且所述当前周期内未完成对所述待读取数据的读取时,根据所述数据特征判断所述终端是否对所述待读取数据的全部进行读取;若是,触发预读单元;所述预读单元,用于构造对所述待读取数据的预读请求;读取单元,用于将所述预读请求及所述待读取数据的数据特征发送至所述终端的慢速数据池以将所述待读取数据从所述慢速数据池中全部提取至所述高速缓存池。
[0013]为解决上述技术问题,本专利技术还提供了一种数据读取装置,包括:存储器,用于存储计算机程序;处理器,用于执行如上述所述的数据读取方法的步骤。
[0014]为解决上述技术问题,本专利技术还提供了一种终端,包括高速缓存池及慢速数据池,还包括如上述所述的数据读取装置;所述数据读取装置设置于所述高速缓存池中。
[0015]本专利技术提供了一种数据读取方法、系统、装置及终端,该方案首先获取当前周期内终端发送的待读取数据的数据特征,在判定待读取数据不在高速缓存池中且当前周期内未完成对待读取数据的读取时,则在根据该数据特征判定终端对于待读取数据的全部进行读取时,构造对待读取数据的预读请求,并将预读请求及待读取数据的数据特征发送至慢速缓存池以将待读取数据从慢速缓存池中全部提取至高速缓存池中。可见,针对现有技术中高速缓冲池中的非热点数据被下刷到慢速缓冲池后,终端下次待读取的数据正好在是该非热点数据的情况,该方案通过建立上述数据预读策略提高了对该种情况下的待读取数据的读取效率,进而保证了整个分布式存储系统的工作性能。
附图说明
[0016]为了更清楚地说明本专利技术实施例中的技术方案,下面将对现有技术和实施例中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本专利技术的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
[0017]图1为本专利技术提供的一种数据读取方法的流程图;图2为本专利技术提供的一种数据读取系统的结构示意图;图3为本专利技术提供的一种数据读取装置的结构示意图。
具体实施方式
[0018]本专利技术的核心是提供一种数据读取方法、系统、装置及终端,通过建立上述数据预读本文档来自技高网
...

【技术保护点】

【技术特征摘要】
1.一种数据读取方法,其特征在于,包括:获取当前周期内终端发送的待读取数据的数据特征;在根据所述数据特征判定所述待读取数据不在所述终端的高速缓存池中且所述当前周期内未完成对所述待读取数据的读取时,根据所述数据特征判断所述终端是否对所述待读取数据的全部进行读取;若是,构造对所述待读取数据的预读请求;将所述预读请求及所述待读取数据的数据特征发送至所述终端的慢速数据池以将所述待读取数据从所述慢速数据池中全部提取至所述高速缓存池。2.如权利要求1所述的数据读取方法,其特征在于,所述数据特征包括OID标识、数据偏移量及数据长度,其中,不同的所述待读取数据的OID标识不同;将所述预读请求及所述待读取数据的数据特征发送至所述终端中的慢速数据池以将所述待读取数据从所述慢速数据池中全部提取至所述高速缓存池中,包括:将所述预读请求及所述待读取数据的OID标识发送至所述终端中的慢速数据池以将所述待读取数据从所述慢速数据池中全部提取至所述高速缓存池中。3.如权利要求2所述的数据读取方法,其特征在于,所述高速缓存池还包括预存的OID标识

数据总长度对应关系;根据所述数据特征判定在所述当前周期内未完成对所述待读取数据的读取,包括:根据所述待读取数据的OID标识从所述OID标识

数据总长度对应关系中获取所述待读取数据的数据总长度;判断所述当前周期内获取的所述待读取数据的数据长度是否小于所述数据总长度;若是,判定在所述当前周期内未完成对所述待读取数据的读取。4.如权利要求2所述的数据读取方法,其特征在于,所述高速缓存池还包括缓存模块;所述缓存模块用于存储获取到的所述待读取数据的数据特征;获取当前周期内终端发送的待读取数据的数据特征之后,还包括:在根据所述数据特征判定所述待读取数据不在所述终端的高速缓存池中且所述当前周期内已完成对所述待读取数据的读取时,清除所述缓存模块中存储的在所述当前周期内获取到的所述待读取数据的数据特征。5.如权利要求4所...

【专利技术属性】
技术研发人员:李吉龙张旭升
申请(专利权)人:苏州浪潮智能科技有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1