System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 一种数据存储方法、装置、设备以及存储介质制造方法及图纸_技高网

一种数据存储方法、装置、设备以及存储介质制造方法及图纸

技术编号:41734354 阅读:5 留言:0更新日期:2024-06-19 12:54
本公开提供了一种数据存储方法、装置、设备及存储介质,所述方法包括:响应于数据写入请求,将写入的数据存储至本地缓存中,在确定当前满足预设上传触发条件时,从本地缓存中获取待上传数据,其中,待上传数据为本地缓存中的部分或全部数据,调用数据格式化模块,将待上传数据的数据结构转换成预设数据结构,其中,预设数据结构用于支持对待上传数据的索引,基于超文本传输协议,将待上传数据上传至对象存储系统中,其中,对象存储系统用于对数据进行持久化存储。可见,本公开实施例能够将本地缓存中的数据上传至对象存储系统,完成对数据的持久化存储,利用对象存储技术的高可靠性和高扩展性的特征,提高了数据存储的可靠性和存储性能。

【技术实现步骤摘要】

本公开涉及数据处理,尤其涉及一种数据存储方法、装置、设备以及存储介质


技术介绍

1、随着现代社会的日益信息化,数据库系统的应用日益庞大,越来越多的数据库被应用在各行各业,每个数据库都充斥着大量数据,大量数据需要进行存储。

2、目前相关技术中,对数据进行持久化存储时通常将数据持久化至本地磁盘中,但是,由于本地磁盘的容量是有限的,并且扩容成本较高,当需要存储的数据量过于庞大时,会导致数据存储的性能下降。并且,将数据持久化至本地磁盘存在一定的风险,例如,当本地磁盘被黑客侵入时,会导致数据存储的安全性降低,进而影响数据存储的可靠性。


技术实现思路

1、为了解决上述技术问题,本公开提供了一种数据存储方法,能够将本地缓存中的数据上传至对象存储系统,完成对数据的持久化存储,利用对象存储技术的高可靠性和高扩展性的特征,提高了数据存储的可靠性和存储性能。

2、第一方面,本公开提供了一种数据存储方法,所述方法包括:

3、响应于数据写入请求,将写入的数据存储至本地缓存中;

4、在确定当前满足预设上传触发条件时,从所述本地缓存中获取待上传数据;其中,所述待上传数据为所述本地缓存中的部分或全部数据;

5、调用数据格式化模块,将所述待上传数据的数据结构转换成预设数据结构;其中,所述预设数据结构用于支持对所述待上传数据的索引;

6、基于超文本传输协议,将所述待上传数据上传至对象存储系统中;其中,所述对象存储系统用于对数据进行持久化存储。</p>

7、一种可选的实施方式中,所述调用数据格式化模块,将所述待上传数据的数据结构转换成预设数据结构,包括:

8、基于预设打包规则对所述待上传数据进行打包,得到打包后的待上传数据;其中,所述预设打包规则用于确定属于同一个文件中的所述待上传数据;

9、调用所述数据格式化模块,将所述打包后的待上传数据的数据结构转换成预设数据结构。

10、一种可选的实施方式中,所述预设数据结构为列式存储数据结构。

11、一种可选的实施方式中,所述方法还包括:

12、响应于数据读取请求,从所述本地缓存中查找目标读取数据;

13、如果确定所述本地缓存中不存在所述目标读取数据,则基于所述超文本传输协议,从所述对象存储系统中,基于所述预设数据结构索引所述目标读取数据。

14、一种可选的实施方式中,所述对象存储系统为基于公有云或私有云构建的分布式存储系统。

15、一种可选的实施方式中,所述在确定当前满足预设上传触发条件时,从所述本地缓存中获取待上传数据,包括:

16、在确定所述本地缓存中的数据存储量达到预设存储量上限时,从所述本地缓存中获取待上传数据。

17、一种可选的实施方式中,所述基于超文本传输协议,将所述待上传数据上传至对象存储系统中,包括:

18、接收来自所述对象存储系统的针对所述待上传数据的上传结果;

19、如果基于所述上传结果确定针对所述待上传数据上传失败,则继续执行所述基于所述超文本传输协议,将所述待上传数据上传至所述对象存储系统中的步骤,直到确定针对所述待上传数据上传成功或者确定针对所述待上传数据的上传次数超过预设次数。

20、第二方面,本公开提供了一种数据存储装置,所述装置包括:

21、存储模块,用于响应于数据写入请求,将写入的数据存储至本地缓存中;

22、获取模块,用于在确定当前满足预设上传触发条件时,从所述本地缓存中获取待上传数据;其中,所述待上传数据为所述本地缓存中的部分或全部数据;

23、格式化模块,用于调用数据格式化模块,将所述待上传数据的数据结构转换成预设数据结构;其中,所述预设数据结构用于支持对所述待上传数据的索引;

24、上传模块,用于基于超文本传输协议,将所述待上传数据上传至对象存储系统中;其中,所述对象存储系统用于对数据进行持久化存储。

25、第三方面,本公开提供了一种数据存储设备,包括:存储器,处理器,及存储在所述存储器上并可在所述处理器上运行的计算机程序,所述处理器执行所述计算机程序时,实现上述的方法。

26、第四方面,本公开提供了一种计算机可读存储介质,所述计算机可读存储介质中存储有指令,当所述指令在终端设备上运行时,使得所述终端设备实现上述的方法。

27、本公开实施例提供的技术方案与现有技术相比至少具有如下优点:

28、本公开实施例提供了一种数据存储方法,首先,响应于数据写入请求,将写入的数据存储至本地缓存中,在确定当前满足预设上传触发条件时,从本地缓存中获取待上传数据,其中,待上传数据为本地缓存中的部分或全部数据,然后,调用数据格式化模块,将待上传数据的数据结构转换成预设数据结构,其中,预设数据结构用于支持对待上传数据的索引,进而,基于超文本传输协议,将待上传数据上传至对象存储系统中,其中,对象存储系统用于对数据进行持久化存储。可见,本公开实施例能够将本地缓存中的数据上传至对象存储系统,完成对数据的持久化存储,利用对象存储技术的高可靠性和高扩展性的特征,提高了数据存储的可靠性和存储性能。

本文档来自技高网...

【技术保护点】

1.一种数据存储方法,其特征在于,所述方法包括:

2.根据权利要求1所述的方法,其特征在于,所述调用数据格式化模块,将所述待上传数据的数据结构转换成预设数据结构,包括:

3.根据权利要求1所述的方法,其特征在于,所述预设数据结构为列式存储数据结构。

4.根据权利要求1所述的方法,其特征在于,所述方法还包括:

5.根据权利要求1所述的方法,其特征在于,所述对象存储系统为基于公有云或私有云构建的分布式存储系统。

6.根据权利要求1所述的方法,其特征在于,所述在确定当前满足预设上传触发条件时,从所述本地缓存中获取待上传数据,包括:

7.根据权利要求1所述的方法,其特征在于,所述基于超文本传输协议,将所述待上传数据上传至对象存储系统中,包括:

8.一种数据存储装置,其特征在于,所述装置包括:

9.一种数据存储设备,其特征在于,包括:存储器,处理器,及存储在所述存储器上并可在所述处理器上运行的计算机程序,所述处理器执行所述计算机程序时,实现如权利要求1-7任一项所述的方法。

10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质中存储有指令,当所述指令在终端设备上运行时,使得所述终端设备实现如权利要求1-7任一项所述的方法。

...

【技术特征摘要】

1.一种数据存储方法,其特征在于,所述方法包括:

2.根据权利要求1所述的方法,其特征在于,所述调用数据格式化模块,将所述待上传数据的数据结构转换成预设数据结构,包括:

3.根据权利要求1所述的方法,其特征在于,所述预设数据结构为列式存储数据结构。

4.根据权利要求1所述的方法,其特征在于,所述方法还包括:

5.根据权利要求1所述的方法,其特征在于,所述对象存储系统为基于公有云或私有云构建的分布式存储系统。

6.根据权利要求1所述的方法,其特征在于,所述在确定当前满足预设上传触发条件时,从所述本地缓存中获取待...

【专利技术属性】
技术研发人员:王盛
申请(专利权)人:北京罗克维尔斯科技有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1