指标关系的可追溯性的实现方法、系统以及设备技术方案

技术编号:26170790 阅读:18 留言:0更新日期:2020-10-31 13:40
一种指标关系的可追溯性的实现方法,包括以下步骤:指标计算;数据存储;以及指标的可追溯性存储与读取;其中,该指标计算步骤中采用分布式方式进行部署,该数据存储步骤中采用共享磁盘的方式将分布式服务器的磁盘路径均指向共享磁盘;其中,该指标计算步骤还包括:对指标计算的公式执行可追溯解析,执行可追溯解析后获取指标与指标的关系以及指标与数据属性的关系;其中,该数据存储步骤还包括存储指标与指标的关系以及指标与数据属性的关系;其中,该数据存储步骤中,通过LBA逻辑地址与存储媒介的物理地址进行转换和通讯,采用LBA逻辑地址进行存储及数据的查找;该方法能够响应于外部应用,实现指标的追溯的分析和存储。

【技术实现步骤摘要】
指标关系的可追溯性的实现方法、系统以及设备
本专利技术涉及计算机领域,尤其涉及一种指标关系的可追溯性的实现方法、系统以及设备,能够响应于外部应用,实现指标的追溯的分析和存储。
技术介绍
如图1所示,在现阶段常见指标计算包括以下两种方式:1、通过数据库服务器通过SQL语言编写SQL脚本进行指标计算,然后将计算结果直接存放到关系型数据库表中。2、通过大数据平台,通过脚本语言编写代码片段进行指标计算,然后将数据结果存放在大数据数据库中(关系型或非关系型)。以上常见两种方式均无法做到指标关系的可追溯及可追溯性的存储。现阶段指标计算的解决方案和方法,主要是针对具体的指标算法进行计算然后进行存储。主要依赖于数据库服务器及软件的性能,指标的可追溯性完全没有体现。1、数据库方式计算及存储:主要通过SQL、存储过程的sql片段来进行计算。SQL及存储过程代码片段的方式很难将指标与指标的关系、指标与数据属性的关系体现出来,并进行存储。在数据量较大、表关联较多时,性能下降比较严重、可扩展性较差。2、大数据平台的方式:主要通过大数据平台的支持,通过计算脚本(通常为大数据数据库的SQL脚本)进行具体指标的计算,指标的可追溯性没有体现。优化数据的不断变化,经常出现数据偏移的情况,导致整个计算和存储比较慢。需要不断在调整计算策略和资源的分配。现阶段的方案和技术重点关注具体的指标的计算,现阶段的脚本语言无法在计算过程中实现指标的追溯的分析和存储,对于指标的可追溯性均无考虑,在正常业务中,往往需要通过指标的可追溯性逐层进行指标的查看。
技术实现思路
本专利技术的目的之一在于提供一种指标关系的可追溯性的实现方法、系统以及设备,能够响应于外部应用,实现指标的追溯的分析和存储。本专利技术的目的之一在于提供一种指标关系的可追溯性的实现方法、系统以及设备,能够实现快速存储和读取,数据是通过LBA逻辑地址直接寻址,加快了数据读取的速度。本专利技术的目的之一在于提供一种指标关系的可追溯性的实现方法、系统以及设备,加速了指标转取的速度,指标可追溯的数据已经通过多叉树进行了存储,通过索引数据文件以及LBA逻辑地址快速读取可追溯数据,并进行展现,避免了通过在指标转取时的复杂业务逻辑的数据读取。本专利技术的目的之一在于提供一种指标关系的可追溯性的实现方法、系统以及设备,对后续指标数据的核对提供数据,在可追溯性中已经将本次计算指标所涉及的追溯数据进行了存储,如果一段时间后指标无法核对,则可通过此部分的追溯数据进行核对和回溯,以此来检查问题情况。为了实现本专利技术的至少一个专利技术目的,本专利技术提供了一种指标关系的可追溯性的实现方法,所述指标关系的可追溯性的实现方法包括以下步骤:指标计算;数据存储;以及指标的可追溯性存储与读取;其中,所述指标计算步骤中采用分布式方式进行部署,所述数据存储步骤中采用共享磁盘的方式将分布式服务器的磁盘路径均指向共享磁盘;其中,所述指标计算步骤还包括:对指标计算的公式执行可追溯解析,执行可追溯解析后获取指标与指标的关系以及指标与数据属性的关系;其中,所述数据存储步骤还包括存储指标与指标的关系以及指标与数据属性的关系;其中,指标的可追溯性关系采用多叉树的方式进行存储;其中,指标计算的指标数据结果以数据文件的方式进行存储;其中将指标计算结果文件的逻辑地址通过索引数据文件的方式进行存储,从而便于后续读取;其中,当执行计算或查询时,通过索引文件获取数据文档的逻辑地址,然后通过逻辑地址定位到数据文件,从而能够实现数据的读取;其中,所述数据存储步骤中,通过LBA逻辑地址与存储媒介的物理地址进行转换和通讯,采用LBA逻辑地址进行存储及数据的查找。在一些实施例中,其中所述指标计算步骤中,执行指标的可追溯解析步骤,其中所述指标的可追溯解析步骤包括以下步骤:响应于外部应用的申请指标计算请求,解析指标的计算公式后获取到指标计算所需要的追溯属性内容及追溯属性内容值,同时送到计算引擎对指标进行计算,获取得到指标结果值。在一些实施例中,其中所述指标计算步骤中,还包括以下步骤:元数据级指标计算步骤,其中,元数据级指标为在一条数据中,通过一条数据中的若干属性的运算而得到的指标,其中,元数据级指标的可追溯的内容为数据的属性及属性值;汇总级指标计算步骤,其中,汇总级指标为通过对若干条数据的属性的聚合而得到的指标,其中,汇总级指标的可追溯的内容为数据的属性及聚合时用到的每条数据的属性值;以及复合指标计算步骤,其中,复合指标为通过指标与指标的关系或指标与指标的四则运算而计算获取的指标,其中复合指标的可追溯的内容为相关的指标及指标值。在一些实施例中,其中在执行所述指标计算步骤中,一台服务器被执行指标的追溯性分析时,获取另一台服务器上运行并存储的结果数据,其中在所述数据存储步骤中执行共享存储,其中根据并发量和数据量的范围以及程度,通过NAS共享存储技术或者分布式数据存储技术执行共享存储步骤。在一些实施例中,其中所述指标的可追溯性存储与读取步骤还包括以下步骤:指标可追溯性数据存储采用多叉树的数据结构进行存储,其中多叉树分为数据域部分以及地址域部分,其中数据域部分用于存储指标的基础数据,例如指标名称、指标代码、指标维度、指标值等,其中地址域部分用于存储可追溯数据的地址集合,直接指向此指标的追溯数据的位置,便于在追溯时进行快速读取数据;指标数据的存储以指标维度为文件名进行存储,文件内容以指标基础信息以及可追溯数据的地址信息;同时以指标维度创建索引数据文件,在同一个维度下,将所有这个维度下的指标数据的LBA逻辑地址存储下来;当用户查询某一个维度下的信息时可以通过维度索引文件快速找到维度下的所有指标的LBA逻辑地址,根据LBA逻辑地址可以快速找到涉及的指标数据,在指标数据中可以快速定位到可追溯的相关数据;以及执行数据的快速读取步骤,其中根据不同的业务需要和要求,根据不同的维度创建多个索引文件,一条指标数据在多个维度的索引文件中,从而在业务需要的情况下能够快速查找所需要的数据。根据本专利技术的另一方面,还提供了一种指标关系的可追溯性的实现系统,所述指标关系的可追溯性的实现系统包括指标计算子系统、数据存储子系统以及指标的可追溯性存储与读取子系统;其中所述指标计算子系统采用分布式方式进行部署,所述数据存储子系统采用共享磁盘的方式将分布式服务器的磁盘路径均指向共享磁盘,在所述指标计算子系统的指标计算过程中,先对计算的公式进行解析,对解析后获取指标与指标、指标与数据属性的关系,然后将关系进行存储,所述指标的可追溯性存储与读取子系统中指标的可追溯性关系采用多叉树的方式进行存储,计算的指标数据结果以数据文件的方式进行存储,为了便于后续的读取,将指标计算结果文件的逻辑地址通过索引数据文件的方式进行存储,当计算或查询时通过索引文件获取数据文档的逻辑地址,然后通过逻辑地址定位到数据文件,从而本文档来自技高网
...

【技术保护点】
1.一种指标关系的可追溯性的实现方法,其特征在于,所述指标关系的可追溯性的实现方法包括以下步骤:/n指标计算;/n数据存储;/n以及/n指标的可追溯性存储与读取;/n其中,所述指标计算步骤中采用分布式方式进行部署,所述数据存储步骤中采用共享磁盘的方式将分布式服务器的磁盘路径均指向共享磁盘;/n其中,所述指标计算步骤还包括:对指标计算的公式执行可追溯解析,执行可追溯解析后获取指标与指标的关系以及指标与数据属性的关系;/n其中,所述数据存储步骤还包括存储指标与指标的关系以及指标与数据属性的关系;/n其中,指标的可追溯性关系采用多叉树的方式进行存储;其中,指标计算的指标数据结果以数据文件的方式进行存储;其中将指标计算结果文件的逻辑地址通过索引数据文件的方式进行存储,从而便于后续读取;/n其中,当执行计算或查询时,通过索引文件获取数据文档的逻辑地址,然后通过逻辑地址定位到数据文件,从而能够实现数据的读取;/n其中,所述数据存储步骤中,通过LBA逻辑地址与存储媒介的物理地址进行转换和通讯,采用LBA逻辑地址进行存储及数据的查找。/n

【技术特征摘要】
1.一种指标关系的可追溯性的实现方法,其特征在于,所述指标关系的可追溯性的实现方法包括以下步骤:
指标计算;
数据存储;
以及
指标的可追溯性存储与读取;
其中,所述指标计算步骤中采用分布式方式进行部署,所述数据存储步骤中采用共享磁盘的方式将分布式服务器的磁盘路径均指向共享磁盘;
其中,所述指标计算步骤还包括:对指标计算的公式执行可追溯解析,执行可追溯解析后获取指标与指标的关系以及指标与数据属性的关系;
其中,所述数据存储步骤还包括存储指标与指标的关系以及指标与数据属性的关系;
其中,指标的可追溯性关系采用多叉树的方式进行存储;其中,指标计算的指标数据结果以数据文件的方式进行存储;其中将指标计算结果文件的逻辑地址通过索引数据文件的方式进行存储,从而便于后续读取;
其中,当执行计算或查询时,通过索引文件获取数据文档的逻辑地址,然后通过逻辑地址定位到数据文件,从而能够实现数据的读取;
其中,所述数据存储步骤中,通过LBA逻辑地址与存储媒介的物理地址进行转换和通讯,采用LBA逻辑地址进行存储及数据的查找。


2.如权利要求1所述的指标关系的可追溯性的实现方法,其中所述指标计算步骤中,执行指标的可追溯解析步骤,其中所述指标的可追溯解析步骤包括以下步骤:
响应于外部应用的申请指标计算请求,解析指标的计算公式后获取到指标计算所需要的追溯属性内容及追溯属性内容值,同时送到计算引擎对指标进行计算,获取得到指标结果值。


3.如权利要求1所述的指标关系的可追溯性的实现方法,其中所述指标计算步骤中,还包括以下步骤:
元数据级指标计算步骤,其中,元数据级指标为在一条数据中,通过一条数据中的若干属性的运算而得到的指标,其中,元数据级指标的可追溯的内容为数据的属性及属性值;
汇总级指标计算步骤,其中,汇总级指标为通过对若干条数据的属性的聚合而得到的指标,其中,汇总级指标的可追溯的内容为数据的属性及聚合时用到的每条数据的属性值;以及
复合指标计算步骤,其中,复合指标为通过指标与指标的关系或指标与指标的四则运算而计算获取的指标,其中复合指标的可追溯的内容为相关的指标及指标值。


4.如权利要求1所述的指标关系的可追溯性的实现方法,其中在执行所述指标计算步骤中,一台服务器被执行指标的追溯性分析时,获取另一台服务器上运行并存储的结果数据,其中在所述数据存储步骤中执行共享存储,其中根据并发量和数据量的范围以及程度,通过NAS共享存储技术或者分布式数据存储技术执行共享存储步骤。


5.如权利要求1所述的指标关系的可追溯性的实现方法,其中所述指标的可追溯性存储与读取步骤还包括以下步骤:
指标可追溯性数据存储采用多叉树的数据结构进行存储,其中多叉树分为数据域部分以及地址域部分,其中数据域部分用于存储指标的基础数据,例如指标名称、指标代码、指标维度、指标值等,其中地址域部分用于存储可追溯数据的地址集合,直接指向此指标的追溯数据的位置,便于在追溯时进行快速读取数据;
指标数据的存储以指标维度为文件名进行存储,文件内容以指标基础信息以及可追溯数据的地址信息;同时以指标维度创建索引数据文件,在同一个维度下,将所有这个维度下的指标数据的LBA逻辑地址存储下来;当用户查询某一个维度下的信息时可以通过维度索引文件快速找到维度下的所有指标的LBA逻辑地址,根据LBA逻辑地址可以快速找到涉及的指标数据,在指标数...

【专利技术属性】
技术研发人员:张连臣
申请(专利权)人:重庆新致金服信息技术有限公司
类型:发明
国别省市:重庆;50

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1