System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 一种智能数据血缘追踪方法技术_技高网

一种智能数据血缘追踪方法技术

技术编号:40525063 阅读:8 留言:0更新日期:2024-03-01 13:44
本发明专利技术涉及数据处理技术领域,具体涉及一种智能数据血缘追踪方法,包括以下步骤:S100:匹配对应多个数据终端相对应的标记,根据所处于数据传输链路中的节点,分别匹配数据终端对应标记;S200:根据赋予的相对应数据终端的标记,将其对应处理的数据中标记赋予相同类型的数据标记;S300:根据赋予在传输链路节点中的多个数据,根据数据上的标记可依次进行数据追踪;S400:利用反馈方法判断数据终端对应多个节点的数据传输或数据处理质量,辅助数据溯源或数据的进一步分配。通过设置的标记方法,形成每个数据对应的数据标记,通过该数据标记配合反馈方法能够高效的对数据进行溯源追踪。

【技术实现步骤摘要】

本专利技术涉及数据处理,具体涉及一种智能数据血缘追踪方法


技术介绍

1、大数据血缘指的是在大数据处理过程中,对各个处理逻辑涉及的数据流经路径进行跟踪,形成不同数据表之间的依赖和生成关系,从而实现对数据向下做影响分析或向上做溯源分析,有助于用户管理资源和排查问题。

2、现有的数据血缘追踪方法中,通常是需要对待追踪的数据的特征进行提取,采用逐级溯源的方式找到数据的来源,在针对多级处理的数据,采用该种方式的溯源追踪效率较低,鉴于此我们提出一种智能数据血缘追踪方法。


技术实现思路

1、针对现有技术所存在的上述缺点,本专利技术提供了一种智能数据血缘追踪方法,能够有效地解决现有的数据追踪时,针对多级处理的数据,采用该种方式的溯源追踪效率较低的问题。

2、为实现以上目的,本专利技术通过以下技术方案予以实现:

3、本专利技术提供一种智能数据血缘追踪方法,包括以下步骤:

4、s100:匹配对应多个数据终端相对应的标记,根据所处于数据传输链路中的节点,分别匹配数据终端对应的:数据采集终端、数据处理终端、数据传输终端以及数据接收终端的标记;

5、s200:根据赋予的相对应数据终端的标记,将其对应处理的数据中标记赋予相同类型的数据标记,并且依据多个数据终端的数据传输逻辑关系,上述多个数据在传输时,其被赋予的多个不同的标记能够进行叠加,并且每个数据完成传输时,将其流经过的多个数据终端进行记载,并形成对应的多个数据终端链路;

6、s300:根据赋予在传输链路节点中的多个数据,根据数据上的标记可依次进行数据追踪,或在后续传输中进行进一步分配传输;

7、s400:利用反馈方法判断数据终端对应多个节点的数据传输或数据处理质量,并记录当前数据传输链路中的该节点数据传输特征,辅助数据溯源或数据的进一步分配。

8、进一步地,步骤s200中还包括数据标记方法:

9、s210:明确当前数据终端处于数据传输链路的节点位置,匹配对应的数据采集终端、数据处理终端、数据传输终端以及数据接收终端中的其中一个或多个标记;

10、s220:在对应数据的首端分别分配对应字符空间,利用对应数据终端上的标记对该数据进行标记,并且随着标记的增加,在数据的尾端按照顺序的方式进行标记的叠加。

11、进一步地,在步骤s220中还包括:

12、s221:在对应数据的尾端分配对应的字符空间,并将多个标记叠加在数据的尾端。

13、进一步地,还包括数据链路处理方法,用于对单位数据包流经的多个数据终端进行排序;包括以下步骤:

14、s230:对每个数据终端链路进行分类处理,明确单位数据包传输链路中数据采集终端、数据处理终端、数据传输终端以及数据接收终端对应的个数;

15、s240:将上述多个数据终端依据类别进行分组,并赋予同组的多个终端相同的终端字符,并相对应的体现在数据标记中。

16、进一步地,反馈方法包括以下步骤:

17、s410:明确数据传输至对应数据终端时单位数据包的大小;

18、s420:以及数据通过该数据终端传出时对应的单位数据包的大小变化,判断该单位数据包大小的变化是否为该数据传输终端对应标记对应的字符大小;

19、s430:若是,则判断该数据终端为正常数据终端,若单位数据包大小的变化与对应的字符大小不一致,则判断该数据终端为异常数据终端。

20、进一步地,异常数据追踪方法,异常数据追踪方法包括以下步骤:

21、s500:数据接收终端接收到的数据后并将其复原多个传输过程中的单位数据包,针对上述多个单位数据包判断是否存在异常,异常的单位数据包即为异常数据;

22、s510:根据多个异常的单位数据包中对应的数据标记找到对应的数据终端链路,判断多个数据链路中重合的数据终端,首先判断重合的数据终端是否为异常数据终端,若是,则判断异常数据为该异常数据终端导致;

23、s520:若多个数据链路中重合的数据终端不是异常数据终端,则进一步判断对应每个数据终端链路中是否存在异常终端,若存在,则以该异常数据终端为起点,分别进行单位数据包的溯源验算,以及单位数据包的后续传输验算;

24、s530:当确定异常终端后,根据当前数据传输链路中的该节点数据传输特征,将异常数据进行还原,持续对单数数据包进行溯源追踪。

25、有益效果

26、本专利技术提供的技术方案,与已知的公有技术相比,具有如下有益效果:

27、本专利技术通过标记方法,对在传输链路中传输的数据进行依次的标记并叠加在数据中,形成每个数据对应的数据标记,通过该数据标记配合反馈方法能够高效的对数据进行溯源追踪。

本文档来自技高网...

【技术保护点】

1.一种智能数据血缘追踪方法,其特征在于,包括以下步骤:

2.根据权利要求1所述的一种智能数据血缘追踪方法,其特征在于,步骤S200中还包括数据标记方法:

3.根据权利要求2所述的一种智能数据血缘追踪方法,其特征在于,在步骤S220中还包括:

4.根据权利要求3所述的一种智能数据血缘追踪方法,其特征在于,还包括数据链路处理方法,用于对单位数据包流经的多个数据终端进行排序;包括以下步骤:

5.根据权利要求4所述的一种智能数据血缘追踪方法,其特征在于,反馈方法包括以下步骤:

6.根据权利要求5所述的一种智能数据血缘追踪方法,其特征在于,还包括异常数据追踪方法,异常数据追踪方法包括以下步骤:

【技术特征摘要】

1.一种智能数据血缘追踪方法,其特征在于,包括以下步骤:

2.根据权利要求1所述的一种智能数据血缘追踪方法,其特征在于,步骤s200中还包括数据标记方法:

3.根据权利要求2所述的一种智能数据血缘追踪方法,其特征在于,在步骤s220中还包括:

4.根据权利要求3所述的一种智能数据血缘追踪方...

【专利技术属性】
技术研发人员:谢超陈木辉李保平欧再辉杨建荣戴思敏
申请(专利权)人:广州汇通国信科技有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1