System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind()
【技术实现步骤摘要】
本专利技术涉及一种实时量测系统,尤其涉及一种基于物化内存的实时量测系统,属于计算机应用领域。
技术介绍
1、以新能源为主体的新型电力系统是清洁低碳、安全高效能源体系的重要组成部分,具有“范围广、环节多、时效高、多维度”等特点。新型电力系统数据中心涉及电网采集系统、非电环境及碳采平台等量测数据,源端种类样式多、采集数据规模大、数据格式差异大、系统时效性要求高,实时量测模型构建及处理难度大。如何构建实时量测模型,并提供海量快速的量测模型访问方法,满足海量数据实时响应、跨专业数据高速共享等新业务应用成为亟待解决的关键问题。
2、当前,业务系统构建的数据模型以关系模型为主,该模型为1970年ibm的研究员e.f.codd博士所提出,采用二维表的形式表示实体和实体间联系的数据模型,且大多存储于关系数据库中。关系模型优点是简单,用户容易理解和掌握,一个关系就是一张二维表格,用户只需用简单的查询语言就能对数据库进行操作,缺点在于当关系模式比较复杂、关系数据较多的场景下,模型关联产生的关系运算时间成本巨大,容易引发系统响应不及时等问题。随着大数据技术发展,数据仓库、数据集市越来越多的被用以处理大规模量测数据和业务模型,在数据结构上,数据仓库是面向主题的、集成的数据的集合,而数据集市通常被定义为星型结构或者雪花型数据结构,一般由一张事实表和几张维表组成的,但本质上,二者的关系模型仍然是以二维表形式存储于更大规模、更多层次的关系型数据库中,关系运算成本依然较大。
3、随着计算机硬件技术不断发展,技术人员利用内存(ram)的快
技术实现思路
1、专利技术目的:本专利技术的目的是提供一种降低存储资源占用、提高查询效率的基于物化内存的实时量测系统。
2、技术方案:本专利技术所述的一种基于物化内存的实时量测系统,包括:源数据层、存储服务层和应用层;
3、所述源数据层,包括对象模型,所述对象模型包括对象的模型属性数据和采集量测数据,其中,所述对象为业务实体,所述模型属性数据包括静态属性和动态属性;
4、所述存储服务层,包括内存模型服务和实时数据库,所述内存模型服务接收处理模型属性数据,所述实时数据库接收处理采集量测数据;
5、所述内存模型服务,包括模型存储模块、内存服务模块和内存模型服务api接口;
6、所述模型存储模块用于通过关系型数据库,提供模型属性数据的固化存储和物化加载功能;
7、所述内存服务模块,用于物化缓存模型属性数据,构建对象索引,通过分段索引法实现面向对象属性检索;包括应用组管理单元、表管理单元、主表管理单元和点表管理单元,以及物化内存结构和物化内存索引;
8、所述内存模型服务api接口用于统一对外提供面向对象的模型存储及访问接口;
9、所述应用层,用于面向各类业务系统和业务应用,通过内存模型服务api接口获取相关对象模型,量测数据。
10、进一步地,所述静态属性用于描述对象的静态特征量,所述动态属性作为测点,用于描述对象的采样属性;所述采集量测数据用于描述对象的实时采样值。
11、进一步地,所述内存模型服务和实时数据库通过测点进行数据关联。
12、进一步地,所述内存服务模块的应用组管理单元,用于管理不同专业的业务模型,实现业务模型的分类管理;所述表管理单元用于管理协调主表管理单元和点表管理单元,从全局视角统筹协调模型、量测数据流转及相关任务分发;所述主表管理单元用于存储对象的静态属性;所述点表管理单元用于存储对象的动态属性。
13、进一步地,所述内存服务模块物化缓存模型属性数据的具体方法为,将要存储的量测对象抽象为二维模型表,每张模型表创建时由系统自动生成对应的全局uid,用于标识该对象;二维模型表在关系数据库中存储时分别对应主表管理单元和点表管理单元,其中,主表存储该对象所有的静态属性,点表存储该对象的动态属性或测点。
14、进一步地,所述主表管理单元和点表管理单元通过全局uid关联。
15、进一步地,所述构建对象索引,通过以哈希map为主的内存结构构建,所述索引存在于系统内存中,索引内部的数据按照二维模型表方式存储于关系数据库中,索引对应的数据在服务启动时进行物化加载,服务退出时固化回写。
16、进一步地,所述分段索引法,通过将对象的二维模型表中具备检索功能的字段分别建立索引,每个字段建立的索引作为一个分段,创建若干个分段索引,每个分段之间相互独立,查询时,根据不同的查询约束条件及聚合方式,分段实现面向多字段的范围查询功能。
17、进一步地,所述分段索引的主键为各字段名称,值为各字段关联的设备对象全局uid列表。
18、进一步地,所述内存模型服务api接口,采用简化api接口,通过公式化查询条件,实现查询条件在接口侧的解析。
19、有益效果:与现有技术相比,本专利技术具有如下显著优点:1、通过应用组和表管理逻辑单元实现了面向新型电力系统的业务模型匹配与融合,并通过内存与磁盘分离的方式解决了传统关系数据索引存储资源占用过大的问题;2、通过物化内存结构和分段索引法实现了面向对象属性的快速检索能力,避免了频繁的内存读写与磁盘操作,提升了查询效率;3、采用简化的api接口,通过公式化查询条件,替代传统的sql查询引擎及接口,避免了复杂的关系运算,实现查询条件在接口侧的快速解析,提升面向对象的数据查询访问效率。
本文档来自技高网...【技术保护点】
1.一种基于物化内存的实时量测系统,其特征在于,包括:源数据层、存储服务层和应用层;
2.根据权利要求1所述的基于物化内存的实时量测系统,其特征在于,所述静态属性用于描述对象的静态特征量,所述动态属性作为测点,用于描述对象的采样属性;所述采集量测数据用于描述对象的实时采样值。
3.根据权利要求2所述的基于物化内存的实时量测系统,其特征在于,所述内存模型服务和实时数据库通过测点进行数据关联。
4.根据权利要求1所述的基于物化内存的实时量测系统,其特征在于,所述内存服务模块的应用组管理单元,用于管理不同专业的业务模型,实现业务模型的分类管理;所述表管理单元用于管理协调主表管理单元和点表管理单元,从全局视角统筹协调模型、量测数据流转及相关任务分发;所述主表管理单元用于存储对象的静态属性;所述点表管理单元用于存储对象的动态属性。
5.根据权利要求1所述的基于物化内存的实时量测系统,其特征在于,所述内存服务模块物化缓存模型属性数据的具体方法为,将要存储的量测对象抽象为二维模型表,每张模型表创建时由系统自动生成对应的全局UID,用于标识该对象;
6.根据权利要求5所述的基于物化内存的实时量测系统,其特征在于,所述主表管理单元和点表管理单元通过全局UID关联。
7.根据权利要求5所述的基于物化内存的实时量测系统,其特征在于,所述构建对象索引,通过以哈希MAP为主的内存结构构建,所述索引存在于系统内存中,索引内部的数据按照二维模型表方式存储于关系数据库中,索引对应的数据在服务启动时进行物化加载,服务退出时固化回写。
8.根据权利要求7所述的基于物化内存的实时量测系统,其特征在于,所述分段索引法,通过将对象的二维模型表中具备检索功能的字段分别建立索引,每个字段建立的索引作为一个分段,创建若干个分段索引,每个分段之间相互独立,查询时,根据不同的查询约束条件及聚合方式,分段实现面向多字段的范围查询功能。
9.根据权利要求8所述的基于物化内存的实时量测系统,其特征在于,所述分段索引的主键为各字段名称,值为各字段关联的设备对象全局UID列表。
10.根据权利要求1所述的基于物化内存的实时量测系统,其特征在于,所述内存模型服务API接口,采用简化API接口,通过公式化查询条件,实现查询条件在接口侧的解析。
...【技术特征摘要】
1.一种基于物化内存的实时量测系统,其特征在于,包括:源数据层、存储服务层和应用层;
2.根据权利要求1所述的基于物化内存的实时量测系统,其特征在于,所述静态属性用于描述对象的静态特征量,所述动态属性作为测点,用于描述对象的采样属性;所述采集量测数据用于描述对象的实时采样值。
3.根据权利要求2所述的基于物化内存的实时量测系统,其特征在于,所述内存模型服务和实时数据库通过测点进行数据关联。
4.根据权利要求1所述的基于物化内存的实时量测系统,其特征在于,所述内存服务模块的应用组管理单元,用于管理不同专业的业务模型,实现业务模型的分类管理;所述表管理单元用于管理协调主表管理单元和点表管理单元,从全局视角统筹协调模型、量测数据流转及相关任务分发;所述主表管理单元用于存储对象的静态属性;所述点表管理单元用于存储对象的动态属性。
5.根据权利要求1所述的基于物化内存的实时量测系统,其特征在于,所述内存服务模块物化缓存模型属性数据的具体方法为,将要存储的量测对象抽象为二维模型表,每张模型表创建时由系统自动生成对应的全局uid,用于标识该对象;二维模型表在关系数据库中存储时分别对应主表管理单元和点表管理单元,其中,主表存储该...
【专利技术属性】
技术研发人员:史英杰,王鹏,吴小志,胡健,王想,周淳,史金伟,周时颉,蒋树蒿,金发秀,陈诗佳,
申请(专利权)人:江苏瑞中数据股份有限公司,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。