数据血缘处理方法技术

技术编号:46596664 阅读:1 留言:0更新日期:2025-10-10 21:29
本申请提供了一种数据血缘处理方法,其中,该方法包括:获取数据库查询语句;根据数据库查询语句以及预先得到的向量数据库,确定数据库查询语句对应的上下文信息;根据数据库查询语句以及数据库查询语句对应的上下文信息,确定数据库查询语句的复杂度;若数据库查询语句的复杂度大于或等于预设阈值,则根据数据库查询语句、数据库查询语句对应的上下文信息以及大模型进行血缘解析,生成数据库查询语句的完整数据血缘信息。本申请能够自动评估查询复杂度,动态调整解析策略,并精准穿透封装逻辑,实现高效准确的血缘关系追溯。并且,显著提升了数据血缘分析的扩展性以及业务适应性。

【技术实现步骤摘要】

本申请涉及数据处理,具体而言,涉及一种数据血缘处理方法


技术介绍

1、数据血缘技术的诞生源于数据治理领域对数据全链路可观测性的迫切需求。随着企业数据体量的跨越式增长,数据处理架构也从单一的抽取-转换-加载模式发展为跨平台、多计算引擎协同的复杂加工体系,数据血缘技术由此演变为现代数据治理的"中枢神经系统"。其核心价值在于构建数据从产生到消费的完整溯源链路,特别是在应对数据异常场景时,传统人工追溯往往需要数小时才能定位问题根源,而基于血缘图谱的智能分析可将这一过程缩短至分钟级,极大提升了数据运维效率。

2、现有技术中的数据血缘图谱主要采用静态解析技术,具体地,首先对数据库查询语句进行词法分析和语法解析,构建完整的抽象语法树(abstract syntax tree,简称ast)结构,然后通过语法树遍历算法提取源表与目标表之间的显式依赖关系,最终生成可视化的血缘拓扑图谱。

3、但是,这种处理方式一方面无法穿透解析用户自定义函数(简称udf)和存储过程等封装逻辑内部的隐式血缘关系;另一方面,字段级别的映射关系仍需依赖人工标注,这不仅增加了本文档来自技高网...

【技术保护点】

1.一种数据血缘处理方法,其特征在于,包括:

2.根据权利要求1所述的数据血缘处理方法,其特征在于,所述根据所述数据库查询语句以及预先得到的向量数据库,确定所述数据库查询语句对应的上下文信息,包括:

3.根据权利要求1所述的数据血缘处理方法,其特征在于,所述根据所述数据库查询语句以及所述数据库查询语句对应的上下文信息,确定所述数据库查询语句的复杂度,包括:

4.根据权利要求3所述的数据血缘处理方法,其特征在于,所述根据所述嵌套层数、所述调用次数以及所述表关联数,确定所述数据库查询语句的复杂度,包括:

5.根据权利要求1所述的数据血缘处理方法...

【技术特征摘要】

1.一种数据血缘处理方法,其特征在于,包括:

2.根据权利要求1所述的数据血缘处理方法,其特征在于,所述根据所述数据库查询语句以及预先得到的向量数据库,确定所述数据库查询语句对应的上下文信息,包括:

3.根据权利要求1所述的数据血缘处理方法,其特征在于,所述根据所述数据库查询语句以及所述数据库查询语句对应的上下文信息,确定所述数据库查询语句的复杂度,包括:

4.根据权利要求3所述的数据血缘处理方法,其特征在于,所述根据所述嵌套层数、所述调用次数以及所述表关联数,确定所述数据库查询语句的复杂度,包括:

5.根据权利要求1所述的数据血缘处理方法,其特征在于,所述根据所述数据库查询语句、所述数据库查询语句对应...

【专利技术属性】
技术研发人员:姜雪明陈雄锋徐梦虞锦明蔡恒
申请(专利权)人:浙江中控信息产业股份有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1