一种用于系统安全访问的控制装置、方法制造方法及图纸

技术编号:41008526 阅读:21 留言:0更新日期:2024-04-18 21:44
本发明专利技术提出一种冷热数据处理方法、系统、电子设备和计算机可读存储介质,方法包括步骤:接收待写入的文档数据,存储至在线热库,在线热库存储用于在线计算的文档数据;将待写入的文档数据与在线热库中已有的文档数据合并;将在线热库中存储时长达到归档时限的文档数据转移至在线冷库和离线冷库,其中,在线冷库和离线冷库分别为数据库和数据仓库。上述方案在常规的单一分布式数据库存储结构的基础上,采用不同的数据库存储结构,分别支撑在线计算应用和离线计算应用,确保整体性能的同时有效降低了整体成本,可以满足较高的写入、更新、查询吞吐量,支持单表千亿级别规模的文档数据的处理,并支持分布式结构、具备较好的横向扩展性。

【技术实现步骤摘要】

本申请属于大数据,具体涉及一种冷热数据处理方法、系统、电子设备和计算机可读存储介质。


技术介绍

1、文档型数据库是现有技术中常见的数据库类型之一,它主要用来存储、索引并管理面向文档的数据或者类似的半结构化数据,文档数据(document data)是文档型数据库的最小单元。分布式文档型数据库是当前流行的文档型数据库结构,然而在特定写入、更新、查询吞吐量的场景下,分布式文档型数据库很容易出现存储性能瓶颈。常规的优化措施包括增加数据表分区、增加数据节点、增加硬件设备等,然而这些措施成本较高,无法获得较高的性价比。


技术实现思路

1、针对上述现有技术中存在的问题,本专利技术第一方面提出一种冷热数据处理方法,包括步骤:接收待写入的文档数据,存储至在线热库,在线热库存储用于在线计算的文档数据;将待写入的文档数据与在线热库中已有的文档数据合并;将在线热库中存储时长达到归档时限的文档数据转移至在线冷库和离线冷库,其中,在线冷库和离线冷库分别为数据库和数据仓库。

2、优选地,待写入的文档数据还被存储至离线热库,离本文档来自技高网...

【技术保护点】

1.一种冷热数据处理方法,其特征在于,包括步骤:

2.根据权利要求1所述的冷热数据处理方法,其特征在于,所述待写入的文档数据还被存储至离线热库,所述离线热库存储用于离线计算的文档数据,所述离线热库为数据仓库。

3.根据权利要求1所述的冷热数据处理方法,其特征在于,所述待写入的文档数据还被存储为离线文件,所述离线文件用于以文件方式提供所述文档数据。

4.根据权利要求1-3中任一所述的冷热数据处理方法,其特征在于,所述待写入的文档数据以固定时间间隔分批存储至所述在线热库、离线热库或存储为离线文件。

5.根据权利要求1所述的冷热数据处理方法,其特...

【技术特征摘要】

1.一种冷热数据处理方法,其特征在于,包括步骤:

2.根据权利要求1所述的冷热数据处理方法,其特征在于,所述待写入的文档数据还被存储至离线热库,所述离线热库存储用于离线计算的文档数据,所述离线热库为数据仓库。

3.根据权利要求1所述的冷热数据处理方法,其特征在于,所述待写入的文档数据还被存储为离线文件,所述离线文件用于以文件方式提供所述文档数据。

4.根据权利要求1-3中任一所述的冷热数据处理方法,其特征在于,所述待写入的文档数据以固定时间间隔分批存储至所述在线热库、离线热库或存储为离线文件。

5.根据权利要求1所述的冷热数据处理方法,其特征在于,所述在线热库为文档型数据库。...

【专利技术属性】
技术研发人员:鄢小征李绪龙毕永辉李明玉朱海勇张笑颜
申请(专利权)人:厦门市美亚柏科信息安全研究所有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1