System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 一种时序数据汇聚管理系统去中心化的实现方法和系统技术方案_技高网

一种时序数据汇聚管理系统去中心化的实现方法和系统技术方案

技术编号:40737727 阅读:3 留言:0更新日期:2024-03-25 19:58
一种时序数据汇聚管理系统去中心化的实现方法和系统,包括构建成员时序数据库;通过集群配置工具确定一个时序数据库为信息节点,储存集群配置信息;通过集群配置工具指定数据分片策略,将时序数据分配到不同的成员时序数据库中;当应用访问请求到达时,应用访问API从信息节点获取集群及分片信息,确定目标成员时序数据库;应用访问API将访问请求发送给目标数据库,应用访问API接受并解析目标数据库返回的结果数据;应用访问API收集并合并目标数据库返回的结果数据,返回给调用应用;应用访问API持续监控每个数据库节点的连接状态,连接失败后切换到备用数据库。可兼容不同类型的单元数据库,实现异构时序数据库的统一管理和汇聚。

【技术实现步骤摘要】

本专利技术属于数据管理,具体为一种时序数据汇聚管理系统去中心化的实现方法和系统


技术介绍

1、随着时序数据集中管控需求的发展,面对海量数据汇集管理的需求,飙升的数据量,以及更高的数据分析需求,出现一些针对海量时序管理的汇聚式管理技术和方法,可将多个成员时序数据库汇聚成为大容量高性能的时序数据管理系统,以解决面对海量数据汇集管理的需求时现有技术在数据规模、系统容量、读写性能、并发性等方面的要求。此类技术中管理中心通常负责对各成员时序数据库的注册登记、状态监测管理、数据范围分配,负责外部客户端访问请求的定位分发,因此管理中心容易成为系统性能瓶颈,且极易出现单点故障。

2、申请号为cn 116226250a的专利技术申请公开文件提供了一种针对发电领域海量时序数据管理的汇聚式管理方法及系统,包括:构建单元实时数据库并设置管理中心,每个单元实时数据库分别负责一个子集的时序数据管理,将各单元实时数据库在管理中心处注册登记;管理中心对各单元实时数据库进行状态监测;管理中心对各单元实时数据库进行数据范围分配和对外部数据访问进行数据定位;汇聚式时序数据管理系统api响应客户端应用的数据请求,管理中心提供该数据请求所对应的单元实时数据库定位信息和数据请求的应答信息,由虚拟的测点总集对外提供时序数据服务。此技术方案中管理中心负责对各成员时序数据库的注册登记、状态监测管理、数据范围分配,负责外部客户端访问请求的定位分发,容易造成系统性能瓶颈,且存在单点故障风险。


技术实现思路

1、为解决现有技术中存在的不足,本申请提供一种时序数据汇聚管理系统去中心化的实现方法,将数据分发等管理功能内嵌于应用访问api,管理信息依托于任意某个成员时序数据库存放,从而将多个成员时序数据库系统去中心化的汇集成为大容量高性能的时序数据管理系统,以解决多节点汇聚式大容量时序数据管理系统中管理中心易出现的系统瓶颈及单点故障问题。

2、本专利技术采用如下的技术方案。

3、一种时序数据汇聚管理系统去中心化的实现方法,所述方法包括:

4、步骤一:构建多个独立的成员数据库作为成员时序数据库;构建集群配置工具,通过集群配置工具确定一个时序数据库为信息节点,储存集群配置信息;

5、步骤二:通过集群配置工具指定数据分片策略,将时序数据分配到不同的成员时序数据库中;

6、步骤三:部署应用访问api,当应用访问请求到达时,应用访问api从信息节点获取集群及分片信息,确定目标成员时序数据库;

7、步骤四:应用访问api与确定的目标成员时序数据库建立连接,将访问请求发送给目标成员时序数据库,应用访问api接受并解析目标成员时序数据库返回的结果数据;

8、步骤五:应用访问api收集并合并目标成员时序数据库返回的结果数据,返回给发出应用访问请求的应用;

9、步骤六:应用访问api持续监控每个数据库节点的连接状态,当连接状态发生变化时,更新状态信息;当目标数据库不可用时,尝试重新连接,连接失败后切换到备用数据库。

10、在步骤一中,组成汇聚式多节点时序数据管理系统时,初始选定某成员时序数据库节点作为信息节点,以存放集群配置信息和集群配置工具,其中所述集群配置信息包括集群节点信息、各节点健康状态信息、数据分片策略信息;各类集群配置信息通过集群配置工具进行手工录入和人工维护;

11、通过集群配置工具,新增、修改或者删除集群中的成员时序数据库节点,成员时序数据库节点信息以普通数据信息的形式存放于信息节点中;

12、两个相互独立的成员时序数据库可设置为成员时序数据库组,管理同一范围数据。

13、在步骤二中,系统中时序数据采取数据分片策略,分别纳管于不同成员时序数据库,各成员时序数据库中管理的时序数据范围不同且不重叠;所述数据分片策略由集群配置工具制定和配置,具体包括将时序数据按照预定规则分配到不同的成员时序数据库中进行存储;

14、数据分片策略信息存储在选定的信息节点数据库中,分片预分配,不需要动态调整。

15、所述分片规则具体包括:按时间序列名的前x位作为特征值,根据特征值范围进行分片;预定义每个节点管理的时间序列名的字符范围,按范围分配。

16、步骤三具体包括,

17、应用访问api接受到应用访问请求时,读取信息节点的数据分片信息,解析请求内容,提取时间序列信息,根据时间序列信息和数据分片策略,确定请求需要访问的目标成员数据库。

18、步骤六具体包括:

19、应用访问api访问各个成员时序数据库时,针对每个访问实例建立和各个成员时序数据库的连接;

20、应用访问api记录每个访问实例针对每个成员时序数据库的连接状态;连接状态包括可用、不可用两种状态;

21、应用访问api在某个访问实例和某成员时序数据库进行数据交互时先检查连接状态信息,如发现连接状态信息为不可用状态,则进行重新连接,如果重新连接成功则将连接状态信息调整为可用状态;

22、应用访问api在某个访问实例和某成员时序数据库进行数据交互时如发生连接中断,则进行记录。

23、应用访问api在某个访问实例和某成员时序数据库进行数据交互时如发生连接中断进行记录后,还包括:

24、应用访问api与成员时序数据库组中任一成员时序数据库发生连接断开,则以成员时序数据库组中另一成员时序数据库为主进行数据交互动作。

25、本申请同时公开了一种利用前述的一种去中心化的实现方法的时序数据汇聚管理系统去中心化实现系统,包括集群配置模块、成员时序数据库模块、应用访问api模块,

26、所述集群配置模块负责整个时序数据汇聚系统的管理信息配置、修改、查看,包括集群各成员节点信息、数据分片策略信息;

27、所述成员时序数据库模块包括多个成员时序数据库,用于存放集群配置信息,储存并管理分配的数据分片范围内的时序数据;

28、所述应用访问api模块用于完成客户端应用对整个时序数据汇聚系统的应用访问并监控数据节点的连接状态。

29、所述应用访问api模块还包括:

30、连接管理模块:用于应用访问api对各节点上的成员时序数据库连接状态记录;

31、数据定位模块:用于应用访问api对客户端应用数据交互请求的定位分发。

32、所述的成员时序数据库可以是不同数据库类型,应用访问api内部调用时进行统一适配,形成异构时序数据汇聚管理系统。

33、本申请提供的一种时序数据汇聚管理系统去中心化的实现方法和系统,将状态监测、数据分发等管理功能内嵌于应用访问api,管理信息依托于任意某个成员时序数据库存放,去中心化的汇聚多个成员时序数据库形成统一的汇聚式时序数据管理系统。

34、本专利技术的有益效果在于,与现有技术相比,通过汇聚式时序数据管理系统去中心化,提升海量时序数据处理场景下的数据吞吐性能和本文档来自技高网...

【技术保护点】

1.一种时序数据汇聚管理系统去中心化的实现方法,其特征在于,所述方法包括:

2.根据权利要求1所述的一种时序数据汇聚管理系统去中心化的实现方法,其特征在于,

3.根据权利要求1所述的一种时序数据汇聚管理系统去中心化的实现方法,其特征在于,

4.根据权利要求3所述的一种时序数据汇聚管理系统去中心化的实现方法,其特征在于:

5.根据权利要求1所述的一种时序数据汇聚管理系统去中心化的实现方法,其特征在于,步骤三具体包括,

6.根据权利要求1所述的一种时序数据汇聚管理系统去中心化的实现方法,其特征在于,步骤六具体包括:

7.根据权利要求6所述的一种时序数据汇聚管理系统去中心化的实现方法,其特征在于,应用访问API在某个访问实例和某成员时序数据库进行数据交互时如发生连接中断,进行记录后,还包括:

8.一种利用权利要求1-8任一项权利要求所述的一种去中心化的实现方法的时序数据汇聚管理系统去中心化实现系统,包括集群配置模块、成员时序数据库模块、应用访问API模块,其特征在于,

9.根据权利要求9所述的一种时序数据汇聚管理系统去中心化的实现系统,其特征在于,所述应用访问API模块还包括:

10.根据权利要求8-9任一项所述的系统,其特征在于,所述的成员时序数据库可以是不同数据库类型,应用访问API内部调用时进行统一适配,形成异构时序数据汇聚管理系统。

...

【技术特征摘要】

1.一种时序数据汇聚管理系统去中心化的实现方法,其特征在于,所述方法包括:

2.根据权利要求1所述的一种时序数据汇聚管理系统去中心化的实现方法,其特征在于,

3.根据权利要求1所述的一种时序数据汇聚管理系统去中心化的实现方法,其特征在于,

4.根据权利要求3所述的一种时序数据汇聚管理系统去中心化的实现方法,其特征在于:

5.根据权利要求1所述的一种时序数据汇聚管理系统去中心化的实现方法,其特征在于,步骤三具体包括,

6.根据权利要求1所述的一种时序数据汇聚管理系统去中心化的实现方法,其特征在于,步骤六具体包括:

7.根据权利要求6所述的一种时序数据汇聚...

【专利技术属性】
技术研发人员:程睿君吉云吴菲常睿沈阳丽
申请(专利权)人:国能信控互联技术有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1