System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 一种基于Hbase的数据处理系统、方法及装置制造方法及图纸_技高网

一种基于Hbase的数据处理系统、方法及装置制造方法及图纸

技术编号:40965313 阅读:2 留言:0更新日期:2024-04-18 20:45
本发明专利技术提供一种基于Hbase的数据处理系统、方法及装置,所述系统包括:注解模块,用于存储预先定义的多个操作注解,所述操作注解用于标识针对Hbase数据库的Hbase操作,每一操作注解对应有相应Hbase操作的执行逻辑;扫描模块,用于响应于获取到的待执行代码,对待执行代码进行扫描,以确定所述待执行代码中与所述多个操作注解匹配的目标注解;确定目标注解对应的操作对象信息,所述操作对象信息包括操作范围和操作结果限定信息;执行模块,用于确定目标注解对应的执行逻辑,并在执行待执行代码时,根据确定的执行逻辑执行目标注解部分的代码,以对Hbase数据库中操作范围内的数据执行相应的Hbase操作并返回匹配于所述操作结果限定信息的操作结果。

【技术实现步骤摘要】

本专利技术涉及数据库领域,尤其涉及一种基于hbase的数据处理系统、方法及装置。


技术介绍

1、hbase是hadoop database的简称,是一个高可靠性、高性能、面向列、可伸缩的分布式存储系统。利用hbase技术可在服务器上搭建起大规模结构化存储集群,基于其海量存储、列式存储和极易扩展的优势,hbase技术被广泛应用于需要实时读写随机访问超大规模数据集的应用系统。但由于hbase作为一个分布式数据库系统,在cap(consistency,availability, partition tolerance,一致性,可用性、分区容错性)原则中强调了一致性和分区容错性。这两个特性对于分布式系统的设计和运行非常重要,但同时也会对查询过程和系统的编程复杂性产生一定影响。

2、传统的hbase交互方式通常是使用hbase java api(官方提供的接口)直接编写hbase客户端代码。虽然这种方式可以实现与hbase的交互,但使用hbase java api编写代码可能相对复杂,需要了解hbase的底层架构、表模型和api,对于开发人员的要求较高。此外,传统的hbase客户端代码通常需要编写大量的样板代码,例如连接管理、表管理、数据转换等。这会导致代码冗长且容易出错。而且,传统的hbase客户端代码难以维护,特别是随着应用程序的增长和复杂性的增加,代码重构和维护将越加繁重。


技术实现思路

1、有鉴于此,本专利技术提供一种基于hbase的数据处理系统、方法及装置,以解决相关技术中的不足。

2、具体地,本专利技术是通过如下技术方案实现:

3、根据本专利技术的第一方面,提供了一种基于hbase的数据处理系统,所述系统包括:

4、注解模块,用于存储预先定义的多个操作注解,所述操作注解用于标识针对hbase数据库的hbase操作,每一操作注解对应有相应hbase操作的执行逻辑;

5、扫描模块,用于响应于获取到的待执行代码,对所述待执行代码进行扫描,以确定所述待执行代码中与所述多个操作注解匹配的目标注解;确定所述目标注解对应的操作对象信息,所述操作对象信息包括操作范围和操作结果限定信息;

6、执行模块,用于确定所述目标注解对应的执行逻辑,并在执行所述待执行代码时,根据确定的执行逻辑执行所述目标注解部分的代码,以对所述hbase数据库中所述操作范围内的数据执行相应的hbase操作并返回匹配于所述操作结果限定信息的操作结果。

7、根据本专利技术的第二方面,提供了一种基于hbase的数据处理方法,应用于hbase客户端,所述hbase客户端中存储有预先定义的多个操作注解,所述操作注解用于标识针对hbase数据库的hbase操作,每一操作注解对应有相应hbase操作的执行逻辑;所述方法包括:

8、响应于获取到的待执行代码,对所述待执行代码进行扫描,以确定所述待执行代码中与所述多个操作注解匹配的目标注解;

9、确定所述目标注解对应的操作对象信息,所述操作对象信息包括操作范围和操作结果限定信息;

10、确定所述目标注解对应的执行逻辑,并在执行所述待执行代码时,根据确定的执行逻辑执行所述目标注解部分的代码,以对所述hbase数据库中所述操作范围内的数据执行相应的hbase操作并返回匹配于所述操作结果限定信息的操作结果。

11、根据本专利技术的第三方面,提供了一种基于hbase的数据处理装置,应用于hbase客户端,所述hbase客户端中存储有预先定义的多个操作注解,所述操作注解用于标识针对hbase数据库的hbase操作,每一操作注解对应有相应hbase操作的执行逻辑;所述装置包括:

12、扫描单元:响应于获取到的待执行代码,对所述待执行代码进行扫描,以确定所述待执行代码中与所述多个操作注解匹配的目标注解;

13、确定单元:确定所述目标注解对应的操作对象信息,所述操作对象信息包括操作范围和操作结果限定信息;

14、执行单元:确定所述目标注解对应的执行逻辑,并在执行所述待执行代码时,根据确定的执行逻辑执行所述目标注解部分的代码,以对所述hbase数据库中所述操作范围内的数据执行相应的hbase操作并返回匹配于所述操作结果限定信息的操作结果。

15、根据本专利技术的第四方面,提供了一种电子设备,包括:

16、处理器;

17、用于存储处理器可执行指令的存储器;

18、其中,所述处理器通过运行所述可执行指令以实现如第二方面所述的方法。

19、根据本专利技术的第五方面,提供了一种计算机可读存储介质,其上存储有计算机程序,所述程序被处理器执行时实现第二方面所述方法的步骤。

20、本专利技术的实施例提供的技术方案可以包括以下有益效果:

21、一方面,通过操作注解替代复杂的代码编写,每一操作注解对应有相应hbase操作的执行逻辑,使得在执行代码时仅需扫描代码中的操作注解,系统即可根据对应的执行逻辑自动实现hbase操作,从而简化了代码编写操作。而且,通过操作注解对应的操作对象信息,可以相应hbase操作对应的操作范围和操作结果限定信息,使得数据处理系统不仅可以实现简单的建表操作,还可以实现复杂的扫描或者字段插入等操作。另一方面,对系统进行模块化处理,将不同功能划分为独立的模块,使系统易于扩展和维护。并且,在存在特殊的业务需求时,仅需对注解模块中定义的操作注解和相应的执行逻辑进行编辑即可,操作简便,有助于提高代码编写效率。

本文档来自技高网...

【技术保护点】

1.一种基于Hbase的数据处理系统,其特征在于,所述系统包括:

2.根据权利要求1所述的系统,其特征在于,

3.根据权利要求2所述的系统,其特征在于,所述多个操作注解包括下述至少之一:表删除注解、字段删除注解、扫描注解、创建注解、插入注解。

4.根据权利要求3所述的系统,其特征在于,

5.根据权利要求1所述的系统,其特征在于,所述系统还包括:

6.根据权利要求1所述的系统,其特征在于,所述注解模块还用于:

7.一种基于Hbase的数据处理方法,其特征在于,应用于Hbase客户端,所述Hbase客户端中存储有预先定义的多个操作注解,所述操作注解用于标识针对Hbase数据库的Hbase操作,每一操作注解对应有相应Hbase操作的执行逻辑;所述方法包括:

8.一种基于Hbase的数据处理装置,其特征在于,应用于Hbase客户端,所述Hbase客户端中存储有预先定义的多个操作注解,所述操作注解用于标识针对Hbase数据库的Hbase操作,每一操作注解对应有相应Hbase操作的执行逻辑;所述装置包括:p>

9.一种电子设备,其特征在于,包括:

10.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,所述程序被处理器执行时实现如权利要求7中所述方法的步骤。

...

【技术特征摘要】

1.一种基于hbase的数据处理系统,其特征在于,所述系统包括:

2.根据权利要求1所述的系统,其特征在于,

3.根据权利要求2所述的系统,其特征在于,所述多个操作注解包括下述至少之一:表删除注解、字段删除注解、扫描注解、创建注解、插入注解。

4.根据权利要求3所述的系统,其特征在于,

5.根据权利要求1所述的系统,其特征在于,所述系统还包括:

6.根据权利要求1所述的系统,其特征在于,所述注解模块还用于:

7.一种基于hbase的数据处理方法,其特征在于,应用于hbase客户端,所述hbase客户端中存储有预...

【专利技术属性】
技术研发人员:李琳琳王宗力鞠高明口拴军
申请(专利权)人:江苏金融租赁股份有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1