一种同时访问不同集群Hbase的数据库连接方法技术

技术编号:15639473 阅读:110 留言:0更新日期:2017-06-15 23:46
本发明专利技术涉及数据库存储的技术领域,尤其是一种同时访问不同集群Hbase的数据库连接方法,具体连接步骤是:S1:从xml配置文件中获取不同集群Hbase配置文件名称;S2:创建Configuration实例,调用addResource方法加载不同集群Hbase配置文件;S3:使用创建的Configuration实例为初始化参数,通过HConnectionManager定义HConnection引用变量;S4:定义HTableInterface引用变量,对应不同集群Hbase中表,然后即可进行不同集群间Hbase表操作;S5:调用close方法释放资源。该数据库连接方法可以同时访问不同集群Hbase。

【技术实现步骤摘要】
一种同时访问不同集群Hbase的数据库连接方法
本专利技术涉及数据库存储的
,尤其是一种同时访问不同集群Hbase的数据库连接方法。
技术介绍
在大数据时代背景下,处理数据都以TB级、PB级来进行计算,传统技术对处理这样数量级的数据已经力不从心,应运而生的就是Hadoop集群和Hbase这样新式的数据库。相比较而言,传统的关系型数据库具有以下缺点:a、关系数据库所采用的二维表格数据模型不能有效地处理多维数据,不能有效处理互联网应用中半结构化和非结构化的海量数据;b、高并发读写的性能低,当关系数据库达到一定规模时,非常容易发生死锁等并发问题,导致其读写性能下降非常严重;c、支撑容量有限;d、数据库的可扩展性和可用性低,当应用系统的用户量和访问量与日俱增的时候,传统关系型数据库却没有办法像WebServer简单地通过添加更多的硬件和服务节点来扩展性能和负载能力。通常情况访问某集群Hbase,会调用HbaseConfiguration的create方法创建Configuration实例,create方法首先会在classpath下查找Hbase-site.xml文件,将里面的信息解析出来封装到Configuration对象中,若Hbase-site.xml文件不存在,则使用默认的Hbase-core.xml文件,显然该方法获取的是一个集群的Hbase配置文件,无法在需要时同时连接另一个集群的Hbase。因此亟需一种同时访问不同集群Hbase的数据库连接方法。
技术实现思路
本专利技术要解决的技术问题是:为了克服Hbase通用连接方法的不足,提供一种同时访问不同集群Hbase的数据库连接方法。本专利技术解决其技术问题所采用的技术方案是:一种同时访问不同集群Hbase的数据库连接方法,具体连接步骤如下:S1:从xml配置文件中获取不同集群Hbase配置文件名称;S2:创建Configuration实例,调用addResource方法加载不同集群Hbase配置文件;S3:使用创建的Configuration实例为初始化参数,通过HConnectionManager定义HConnection引用变量;S4:定义HTableInterface引用变量,对应不同集群Hbase中表,然后即可进行不同集群间Hbase表操作;S5:调用close方法释放资源。进一步具体地说,上述技术方案中S1中采用xml格式文件保存不同集群Hbase配置文件名称。进一步具体地说,上述技术方案中S1中使用DOM解析器读取xml配置文件。进一步具体地说,上述技术方案中S2中分别创建Configuration实例,各自调用addResource方法加载不同集群Hbase配置文件。进一步具体地说,上述技术方案中S3中以创建的Configuration实例为初始化参数,定义HConnection引用变量。进一步具体地说,上述技术方案中S3中通过HConnection变量定义HTableInterface引用变量,对应不同集群Hbase表,从而同时对不同集群Hbase表进行操作。本专利技术的有益效果是:该数据库连接方法具有以下优点:一、通过xml配置文件可以保存多个集群Hbase的配置文件名称,且可以包含绝对路径,xml配置文件又可以通过DOM解析器很方便的解析;二、通过HConnection构建HTableInterface实现是非常轻量级的,资源是可控,所以每次对Hbase连接池进行访问操作的时候所消耗的资源都很少,并且速度非常快;三、通过上述方法可以同时访问到多个集群Hbase中的表,并对其进行操作,对于不同集群间数据交互提供了极大的便利。附图说明下面结合附图和实施例对本专利技术进一步说明。图1是本专利技术的流程图。具体实施方式现在结合附图对本专利技术作进一步详细的说明。这些附图均为简化的示意图,仅以示意方式说明本专利技术的基本结构,因此其仅显示与本专利技术有关的构成。见图1,一种同时访问不同集群Hbase的数据库连接方法,具体连接步骤如下:S1:从xml配置文件中获取不同集群Hbase配置文件名称;S1中采用xml格式文件保存不同集群Hbase配置文件名称;S1中使用DOM解析器读取xml配置文件,DOM解析器的易用性强,且遍历简单;集群和Hbase配置文件一一对应,配置文件被解析后,该对应关系以key-value形式存储在Map容器中,集群名称为关键字,配置文件名称为值;S2:创建Configuration实例,调用addResource方法加载不同集群Hbase配置文件;S2中分别创建Configuration实例,各自调用addResource方法加载不同集群Hbase配置文件;一个集群创建一个Configuration对象,调用addResource方法加载该集群Hbase配置文件;另外,addResource方法支持绝对路径方式指定配置文件,即文件名称中可包含其所在文件目录路径;S3:使用创建的Configuration实例为初始化参数,通过HConnectionManager定义HConnection引用变量;S3中以创建的Configuration实例为初始化参数,定义HConnection引用变量;S3中通过HConnection变量定义HTableInterface引用变量,对应不同集群Hbase表,从而同时对不同集群Hbase表进行操作;HConnectionManager是一个不可实例化的类,专门用于创建与Hbase连接池之间的连接;由于通过HConnection构建HTableInterface实现是非常轻量级的,所以资源是可控的,这样每次对Hbase连接池进行访问操作的时候所消耗的资源都很少,并且速度很快;S4:定义HTableInterface引用变量,对应不同集群Hbase中表,然后即可进行不同集群间Hbase表操作;获取不同集群HTableInterface变量即可对不同集群Hbase表进行put、get、scan等操作;获取了多个集群Hbase表的引用变量,可以非常方便的从不同集群获取数据,及同时向多个集群录入数据;此处为业务逻辑部分,实际编程时为重点部分,但不是本专利技术关注点;S5:调用close方法释放资源。由于Hbase连接池创建连接的时候耗时较长,在确保不会继续进行表操作后,调用close方法释放资源,避免重复连接耗费时间,影响程序执行效率。上述连接步骤仅展示了一种同时访问不同集群Hbase的可行性方法,有很多可以优化之处,例如,当连接数较多时,可实现连接池同时管理不同集群的Hbase连接。且本专利技术的关注点在于同时访问不同集群Hbase的方法,获取连接后的具体操作属于业务逻辑层面,根据不同需求编写的代码也将千差万别。以上述依据本专利技术的理想实施例为启示,通过上述的说明内容,相关工作人员完全可以在不偏离本项专利技术技术思想的范围内,进行多样的变更以及修改。本项专利技术的技术性范围并不局限于说明书上的内容,必须要根据权利要求范围来确定其技术性范围。本文档来自技高网...
一种同时访问不同集群Hbase的数据库连接方法

【技术保护点】
一种同时访问不同集群Hbase的数据库连接方法,其特征在于:具体连接步骤如下:S1:从xml配置文件中获取不同集群Hbase配置文件名称;S2:创建Configuration实例,调用addResource方法加载不同集群Hbase配置文件;S3:使用创建的Configuration实例为初始化参数,通过HConnectionManager定义HConnection引用变量;S4:定义HTableInterface引用变量,对应不同集群Hbase中表,然后即可进行不同集群间Hbase表操作;S5:调用close方法释放资源。

【技术特征摘要】
1.一种同时访问不同集群Hbase的数据库连接方法,其特征在于:具体连接步骤如下:S1:从xml配置文件中获取不同集群Hbase配置文件名称;S2:创建Configuration实例,调用addResource方法加载不同集群Hbase配置文件;S3:使用创建的Configuration实例为初始化参数,通过HConnectionManager定义HConnection引用变量;S4:定义HTableInterface引用变量,对应不同集群Hbase中表,然后即可进行不同集群间Hbase表操作;S5:调用close方法释放资源。2.根据权利要求1所述的一种同时访问不同集群Hbase的数据库连接方法,其特征在于:S1中采用xml格式文件保存不同集群Hbase配置文件名称。3.根据权利要求1所述的一...

【专利技术属性】
技术研发人员:李文浩刘永强许翔
申请(专利权)人:南京天谷电气科技有限公司
类型:发明
国别省市:江苏,32

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1