System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind()
【技术实现步骤摘要】
本专利技术涉及数据存储,尤其涉及一种数据处理方法、装置、电子设备和存储介质。
技术介绍
1、在日常生活中,经常会有涉及需要消息延时发送的场景,这种消息可以称为延时任务。这里,所谓“延时发送”指生产者产生消息后,消费者并不能立即获得消息,而是等待指定时长后(可以是秒级别,也可以是小时级别,也可以是天级别),消费者才能获得这个消息并进行相应的处理。
2、目前,通常的实现方案有在编程语言程序(java)中实现,或者使用redis等内存数据库实现,并在传统数据库中使用b+树存储,实现延时任务的存储。
3、然而,现有的两种实现方案存在受内存限制吞吐量小,消息处理失败无法恢复等问题,如果使用传统数据库实现,虽然没有内存限制,但传统数据库使用b+树存储,b+树随着数据量的提升导致插入性能逐渐降低。
技术实现思路
1、本专利技术提供了一种数据处理方法、装置、电子设备和存储介质,解决了现有技术中数据处理受内存限制吞吐量小和消息处理失败无法恢复的问题。
2、第一方面,本专利技术实施例提供了一种数据处理方法,包括:
3、响应于数据存储指令,获取预先生成的延时消息;
4、以键值对结构将延时消息存储至目标存储系统;其中,延时消息的键值至少包括消息消费时间;目标存储系统为支持日志结构合并lsm树构建的键值存储系统。
5、第二方面,本专利技术实施例还提供了一种数据处理装置,包括:
6、延时消息生成模块,用于响应于数据存储指令,获
7、消息存储模块,用于以键值对结构将延时消息存储至目标存储系统;其中,延时消息的键值至少包括消息消费时间;目标存储系统为支持日志结构合并lsm树构建的键值存储系统。
8、第三方面,本专利技术实施例还提供了一种电子设备,包括:
9、至少一个处理器;以及
10、与至少一个处理器通信连接的存储器;其中,
11、存储器存储有可被至少一个处理器执行的计算机程序,计算机程序被至少一个处理器执行,以使至少一个处理器能够执行本专利技术实施例中任一项的数据处理方法。
12、第四方面,本专利技术实施例还提供了一种计算机可读存储介质,其中,计算机可读存储介质存储有计算机指令,计算机指令用于使处理器执行时实现本专利技术实施例中任一项的数据处理方法。
13、根据本专利技术实施例的技术方案,通过获取预先生成的延时消息,以键值对的形式将延时消息存储至支持日志结构合并lsm树构建的目标存储系统,延时消息的键值至少包括消息消费时间,解决了现有技术中数据处理受内存限制吞吐量小和消息处理失败无法恢复的问题,实现了不受内存大小限制的数据高效插入和查询性能,提高了数据处理的吞吐量。
14、应当理解,本部分所描述的内容并非旨在标识本专利技术的实施例的关键或重要特征,也不用于限制本专利技术的范围。本专利技术的其它特征将通过以下的说明书而变得容易理解。
本文档来自技高网...【技术保护点】
1.一种数据处理方法,其特征在于,包括:
2.根据权利要求1所述的方法,其特征在于,所述延时消息的键值还包括:消息存储时间戳;其中,所述键值的前缀为消息消费时间,所述键值的后缀为消息存储时间戳。
3.根据权利要求2所述的方法,其特征在于,在所述延时消息的键值包括消息存储时间戳和消息消费时间的情况下,所述方法,还包括:
4.根据权利要求1所述的方法,其特征在于,在所述延时消息的键值包括消息消费时间的情况下,所述方法,还包括:
5.根据权利要求1所述的方法,其特征在于,所述方法,还包括:
6.根据权利要求1-5任一项所述的方法,其特征在于,所述以键值对结构将所述延时消息存储至目标存储系统,包括:
7.根据权利要求1-5任一项所述的方法,其特征在于,所述目标存储系统包括下述之一:RocksDB系统;HBase系统。
8.一种数据处理装置,其特征在于,所述装置包括:
9.一种电子设备,其特征在于,所述电子设备包括:
10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质存
...【技术特征摘要】
1.一种数据处理方法,其特征在于,包括:
2.根据权利要求1所述的方法,其特征在于,所述延时消息的键值还包括:消息存储时间戳;其中,所述键值的前缀为消息消费时间,所述键值的后缀为消息存储时间戳。
3.根据权利要求2所述的方法,其特征在于,在所述延时消息的键值包括消息存储时间戳和消息消费时间的情况下,所述方法,还包括:
4.根据权利要求1所述的方法,其特征在于,在所述延时消息的键值包括消息消费时间的情况下,所述方法,还包括:
5.根据权利要求1所述的方法,其特征在于,所述方法,还包括:
...【专利技术属性】
技术研发人员:吕虎,
申请(专利权)人:中国农业银行股份有限公司,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。