一种时序数据库的数据恢复方法及装置制造方法及图纸

技术编号:42703625 阅读:33 留言:0更新日期:2024-09-13 11:57
本发明专利技术涉及时序数据库技术领域,具体提供了一种时序数据库的数据恢复方法及装置,具有如下步骤:S1、存储的数据采用MMAP技术实现数据读写,把数据文件映射到内存地址后,数据的写入和读取都是内存API操作,由操作系统自动完成内存数据到物理文件的同步;S2、时序引擎支持批量数据的写入,一个批量数据Payload中包括多个设备、跨多个时间分区的数据,会修改多个数据文件;S3、每批数据Payload写入时,对应的分区表先申请空间,并增加空间使用量allocated,allocated为block已申请空间的数据条数;S4、通过UndoPut接口实现数据回滚操作;S5、通过RedoPut接口实现数据恢复操作。与现有技术相比,本发明专利技术能够正确恢复数据,保证了数据的一致性。

【技术实现步骤摘要】

本专利技术涉及时序数据库,具体提供一种时序数据库的数据恢复方法及装置


技术介绍

1、时序数据是随时间不断产生的一系列数据,简单来说,就是带时间戳的数据。时序数据库(time series database,tsdb)是优化用于摄取、处理和存储时间戳数据的数据库。此类数据可能包括来自服务器和应用程序的指标、来自物联网传感器的读取、网站或应用程序上的用户交互或金融市场上的交易活动。

2、时序数据库的主要特点之一是插入数据多且频繁,每秒钟插入数据可达到千万甚至是上亿的数据量,同时,查询、聚合等操作主要针对近期插入的数据。所以,当数据库发生断电等异常情况宕机时,怎样保证数据的完整性及有效性,显得尤为重要。

3、目前,wal(write ahead log)预写日志是数据库系统中最常见的一种保证数据操作的原子性和持久性的手段。但是常规的数据库都是数据先写入wal,再写入内存,等数据持久化落盘后,即为写入成功。

4、但是基于mmap技术实现的时序数据库,写入过程是操作系统控制持久化落盘,无法判断数据是否落盘成功


本文档来自技高网...

【技术保护点】

1.一种时序数据库的数据恢复方法,其特征在于,具有如下步骤:

2.根据权利要求1所述的一种时序数据库的数据恢复方法,其特征在于,在步骤S2中,时序表的数据增加LSN数据类型,记录每批写入数据的LSN号,保证数据写入的原子一致性;

3.根据权利要求2所述的一种时序数据库的数据恢复方法,其特征在于,在步骤S3中,在将数据写入到申请的空间中,当这批数据全部写满之后,将数据发布到可读状态,即增加pulished,所述pulished为block读到的数据条数。

4.根据权利要求3所述的一种时序数据库的数据恢复方法,其特征在于,在步骤S4中,进一步包括:

...

【技术特征摘要】

1.一种时序数据库的数据恢复方法,其特征在于,具有如下步骤:

2.根据权利要求1所述的一种时序数据库的数据恢复方法,其特征在于,在步骤s2中,时序表的数据增加lsn数据类型,记录每批写入数据的lsn号,保证数据写入的原子一致性;

3.根据权利要求2所述的一种时序数据库的数据恢复方法,其特征在于,在步骤s3中,在将数据写入到申请的空间中,当这批数据全部写满之后,将数据发布到可读状态,即增加pulished,所述pulished为block读到的数据条数。

4.根据权利要求3所述的一种时序数据库的数据恢复方法,其特征在于,在步骤s4中,进一步包括:

5.根据权利要求4所述的一种时序数据库的数据恢复方法,其特征在于,在步骤s4-1中,wal每次调用undoput接口,传入需要回滚的一批数据payload及这批payload的lsn号。

6.根据权利要求5所述的一种时序数据库的数据恢复方法,其特征在于,在步骤s4-2中,通过传入的lsn,从分区表的开始位置遍历,找到时...

【专利技术属性】
技术研发人员:张华海梁波张炜刚
申请(专利权)人:上海沄熹科技有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1