数据存储方法、装置、设备以及计算机存储介质制造方法及图纸

技术编号:30767747 阅读:19 留言:0更新日期:2021-11-10 12:30
本发明专利技术实施例涉及数据存储技术领域,公开了一种数据存储方法、装置、设备以及计算机存储介质,该方法包括:周期性采集待写入数据;当当前周期的待写入数据为异常数据时,生成新记录;所述新记录用于存储下一周期的待写入数据;获取下一周期的待写入数据,对下一周期的待写入数据对应的新记录和当前周期的记录进行压缩,得到待存储数据;将所述待存储数据写入缓存中。通过上述方式,本发明专利技术实施例提高了数据存储的可靠性。数据存储的可靠性。数据存储的可靠性。

【技术实现步骤摘要】
数据存储方法、装置、设备以及计算机存储介质


[0001]本专利技术实施例涉及数据存储
,具体涉及一种数据存储方法、装置、设备以及计算机存储介质。

技术介绍

[0002]随着互联网以及大数据领域的快速发展,在实际应用中,常遇到各类海量数据与超高频率的采集场景,在这种场景下占用大量存储空间,资源消耗过高的问题,因此需要对数据进行压缩后再存储。目前的数据压缩过程一般如下:针对每次数据采集结果与上一次相同的,则不作任何记录,直至出现相异的采集数据再进行记录。
[0003]专利技术人发现,现有技术中当出现无采集数据更新时,无法判断是当前采集到数据与上一周期相同还是采集数据上报异常(如未采集到数据)。综上,现有技术中的数据存储存在可靠性较低的问题。

技术实现思路

[0004]鉴于上述问题,本专利技术实施例提供了一种数据存储方法,用于解决现有技术中存在的数据存储可靠性较低的问题。
[0005]根据本专利技术实施例的一个方面,提供了一种数据存储方法,所述方法包括:
[0006]周期性采集待写入数据;
[0007]当当前周期的待写入数据为异常数据时,生成新记录;所述新记录用于存储下一周期的待写入数据;
[0008]获取下一周期的待写入数据,对下一周期的待写入数据对应的新记录和当前周期的记录进行压缩,得到待存储数据;
[0009]将所述待存储数据写入缓存中。
[0010]在一种可选的方式中,所述当前周期的记录中包括标志位;所述标志位用于表征上一周期的待写入数据的记录处理情况;所述方法还包括:
[0011]当所述当前周期的待写入数据为异常数据并且所述标志位表征上一周期未生成新记录时,生成所述新记录;
[0012]将所述下一周期的待写入数据存入所述新记录;所述新记录的记录起始时间为所述下一周期对应的采集时间;
[0013]在所述新记录中添加表征上一周期生成新记录的所述标志位。
[0014]在一种可选的方式中,所述标志位包括第一标志位和第二标志位;所述第一标志位用于表征上一周期未生成新记录;所述第二标志位用于表征上一周期生成新记录;所述方法还包括:
[0015]当所述下一周期的待写入数据为非异常数据且所述当前周期的记录中包括所述第二标志位时,生成所述新记录;所述新记录的记录起始时间为所述下一周期对应的采集时间;
[0016]将所述下一周期的待写入数据存入所述新记录中;
[0017]在所述新记录中添加所述第一标志位。
[0018]在一种可选的方式中,所述方法还包括:
[0019]当所述当前周期的记录的记录长度大于长度阈值时,在所述当前周期的记录中添加所述第二标志位;其中,所述长度阈值根据设备最大存储长度和所述第二标志位的标志位长度确定。
[0020]在一种可选的方式中,所述当前周期的记录中包括第三标志位和上一周期的待写入数据;所述第三标志位用于指示所述当前周期的待写入数据与所述上一周期的待写入数据之间的数值关系;所述方法还包括:
[0021]将所述当前周期的待写入数据与所述上一周期的待写入数据进行比较;
[0022]当所述当前周期的待写入数据与所述上一周期的待写入数据不同时,将所述当前周期的待写入数据存入上一周期的记录中,得到所述待存储数据,并将所述第三标志位设置为第二预设值;所述第二预设值用于指示当前周期的待写入数据与上一周期的待写入数据不同;
[0023]当所述当前周期的待写入数据与所述上一周期的待写入数据相同时,对所述待写入数据的连续采集次数进行更新,得到所述待存储数据,并将所述第三标志位设置为第一预设值;所述第一预设值用于指示当前周期的待写入数据与上一周期的待写入数据相同。
[0024]在一种可选的方式中,所述方法还包括:
[0025]当所述当前周期的待写入数据为非异常数据并且所述第三标志位为所述第二预设值时,将当前周期的待写入数据存入所述当前周期的记录中,并在存入后的记录中添加所述第一标志位;
[0026]当所述当前周期的待写入数据为非异常数据并且上一周期的记录中包括所述第一标志位且所述第三标志位为所述第一预设值时,删除所述上一周期的记录中的所述第一标志位,将所述当前周期的待写入数据写入所述上一周期的记录,并在存入后的记录中添加所述第一标志位。
[0027]在一种可选的方式中,所述方法还包括:
[0028]确定所述待写入数据的采集周期;
[0029]响应针对所述缓存的数据解压请求;
[0030]将所述缓存中任一记录起始时间确定为第一起始时间;
[0031]获取所述缓存中记录起始时间晚于且最接近所述第一起始时间的邻近记录;
[0032]将所述邻近记录的所述记录起始时间确定为第二起始时间;
[0033]根据所述第一起始时间、第二起始时间、所述采集周期以及所述待存储数据确定所述为所述第一起始时间与所述第二起始时间之间采集的所述待存储数据对应的解压后数据。
[0034]根据本专利技术实施例的另一方面,提供了一种数据存储装置,包括:
[0035]获取模块,用于周期性采集待写入数据;
[0036]生成模块,用于当当前周期的待写入数据为异常数据时,生成新记录;所述新记录用于存储下一周期的待写入数据;
[0037]压缩模块,用于获取下一周期的待写入数据,对下一周期的待写入数据对应的新
记录和当前周期的记录进行压缩,得到待存储数据;
[0038]存储模块,用于将所述待存储数据写入缓存中。
[0039]根据本专利技术实施例的另一方面,提供了一种数据存储设备,包括:处理器、存储器、通信接口和通信总线,所述处理器、所述存储器和所述通信接口通过所述通信总线完成相互间的通信;
[0040]所述存储器用于存放至少一可执行指令,所述可执行指令使所述处理器执行如所述数据存储方法的操作。
[0041]根据本专利技术实施例的又一方面,提供了一种计算机存储介质,所述存储介质中存储有至少一可执行指令,所述可执行指令在数据存储设备上运行时,使得数据存储设备执行所述数据存储方法的操作。
[0042]本专利技术实施例通过周期性采集待写入数据;当当前周期的待写入数据为异常数据时,生成新记录;所述新记录用于存储下一周期的待写入数据;从而将异常数据与非异常数据以分隔开的记录分别进行记录,再获取下一周期的待写入数据,对下一周期的待写入数据对应的新记录和当前周期的记录进行压缩,得到待存储数据;最后将所述待存储数据写入缓存中。区别于现有技术中相同数据则不进行记录更新的做法,无法确定是否出现数据采集异常,导致的数据存储可靠性低,本专利技术实施例能够根据每个周期的待写入数据的异常情况对待写入数据采取不同的记录存储方式,实现了对异常数据出现时间的回溯,从而实现无损压缩,提高了数据存储的效可靠性。
[0043]上述说明仅是本专利技术实施例技术方案的概述,为了能够更清楚了解本专利技术实施例的技术手段,而可依照说明书的内容予以实施,并且本文档来自技高网
...

【技术保护点】

【技术特征摘要】
1.一种数据存储方法,其特征在于,所述方法包括:周期性采集待写入数据;当当前周期的待写入数据为异常数据时,生成新记录;所述新记录用于存储下一周期的待写入数据;获取下一周期的待写入数据,对下一周期的待写入数据对应的新记录和当前周期的记录进行压缩,得到待存储数据;将所述待存储数据写入缓存中。2.根据权利要求1所述的方法,其特征在于,所述当前周期的记录中包括标志位;所述标志位用于表征上一周期的待写入数据的记录处理情况;所述当当前周期的待写入数据为异常数据时,生成新记录,包括:当所述当前周期的待写入数据为异常数据并且所述标志位表征上一周期未生成新记录时,生成所述新记录;将所述下一周期的待写入数据存入所述新记录;所述新记录的记录起始时间为所述下一周期对应的采集时间;在所述新记录中添加表征上一周期生成新记录的所述标志位。3.根据权利要求2所述的方法,其特征在于,所述标志位包括第一标志位和第二标志位;所述第一标志位用于表征上一周期未生成新记录;所述第二标志位用于表征上一周期生成新记录;在所述周期性获取采集待写入数据之后,还包括:当所述下一周期的待写入数据为非异常数据且所述当前周期的记录中包括所述第二标志位时,生成所述新记录;所述新记录的记录起始时间为所述下一周期对应的采集时间;将所述下一周期的待写入数据存入所述新记录中;在所述新记录中添加所述第一标志位。4.根据权利要求3所述的方法,其特征在于,在当所述当前周期的待写入数据为异常数据并且所述标志位表征上一周期未生成新记录时,生成所述新记录之后,还包括:当所述当前周期的记录的记录长度大于长度阈值时,在所述当前周期的记录中添加所述第二标志位;其中,所述长度阈值根据设备最大存储长度和所述第二标志位的标志位长度确定。5.根据权利要求3所述的方法,其特征在于,所述当前周期的记录中包括第三标志位和上一周期的待写入数据;所述第三标志位用于指示所述当前周期的待写入数据与所述上一周期的待写入数据之间的数值关系;所述获取下一周期的待写入数据,对下一周期的待写入数据对应的新记录和当前周期的记录进行压缩,得到待存储数据,包括:将所述当前周期的待写入数据与所述上一周期的待写入数据进行比较;当所述当前周期的待写入数据与所述上一周期的待写入数据相同时,对所述待写入数据的连续采集次数进行更新,得到所述待存储数据,并将所述第三标志位设置为第一预设值;所述第一预设值用于指示当前周期的待写入数据与上一周期的待写入数据相同;当所述当...

【专利技术属性】
技术研发人员:龚超唐凯
申请(专利权)人:咪咕文化科技有限公司中国移动通信集团有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1