【技术实现步骤摘要】
本专利技术涉及空间数据处理,并且更具体地,涉及一种基于数据清洗技术的空间数据开发方法及系统。
技术介绍
1、目前针对数据处理的方法,解决了以往方法的诸多痛点,如数据流转效率、数据存储介质多样、专业数据处理工具缺乏统一管理等;同时,也一定程度上解决了公司现有工程数据管理平台的整体架构滞后于国网数字化技术体系发展的问题。
2、但是针对数据处理的存在的问题,如何提升空间数据生产和交付全流程效率,如何通过海量空间数据深挖客户价值,如何衡量和改善过程质量,以及提升客户满意度等方面,都需要基于对公司现有多个业务系统沉淀的海量数据进行统一治理、管理与分析,所以公司级数据中台的建设是当务之需。
技术实现思路
1、本专利技术的目的在于如何在海量的空间数据中开发出需要的空间数据,而提出了一种基于数据清洗技术的空间数据开发方法,包括:
2、获取海量空间数据,将所述海量空间数据作为待开发的空间数据,建立用于清洗待开发的空间数据的数据清洗标准规则;
3、根据所述数据清洗标准规则,
...【技术保护点】
1.一种基于数据清洗技术的空间数据开发方法,其特征在于,所述方法包括:
2.根据权利要求1所述的方法,其特征在于,根据所述待开发的空间数据所对应的业务规则、常规数据质量问题和元数据信息,建立用于清洗待开发的空间数据的数据清洗标准规则。
3.根据权利要求1所述的方法,其特征在于,所述数据清洗标准规则,包括:对待开发的空间数据中问题数据的发现规则及处理规则,发现及纠正数据元问题规则;
4.根据权利要求1所述的方法,其特征在于,所述对所述待开发的空间数据进行清洗,包括:针对所述待开发的空间数据进行筛查,以筛选出所述待开发的空间数据中的残缺
...【技术特征摘要】
1.一种基于数据清洗技术的空间数据开发方法,其特征在于,所述方法包括:
2.根据权利要求1所述的方法,其特征在于,根据所述待开发的空间数据所对应的业务规则、常规数据质量问题和元数据信息,建立用于清洗待开发的空间数据的数据清洗标准规则。
3.根据权利要求1所述的方法,其特征在于,所述数据清洗标准规则,包括:对待开发的空间数据中问题数据的发现规则及处理规则,发现及纠正数据元问题规则;
4.根据权利要求1所述的方法,其特征在于,所述对所述待开发的空间数据进行清洗,包括:针对所述待开发的空间数据进行筛查,以筛选出所述待开发的空间数据中的残缺数据、错误数据和重复数据,并对残缺数据的补齐处理、对错误数据的修正处理和对重复数据的删除处理。
5.根据权利要求1所述的方法,其特征在于,所述针对所述清洗数据进行数据质量检查,包括:对清洗数据依次进行数据的完整性、有效性、准确性、唯一性、一致性、可达性、时效性、合理性和业务约束能力的检查。
6.根据权利要求1所述的方法,其特征在于,所述对所述问题数据进行排查及问题修复,包括:对问题数据的重要程度进行排查,并按照预设的问题重要程度及得到的问题数据的重要程度,将所述问题数据划分为多个等级,对高等级的问题数据进行问题修复,对低等级的问题数据不做问题修复处理;
7.根据权利要求1所述的方法,其特征在于,所述数据标准化处理,包括:离线数据的标准化处理和实时数据的标准化处理,并将标准化处理的后的数据存储至数据资源标准库。
8.一种基于数据清洗技术的空间数据开发系统,其特征在于,所述系统包括:
9.根据权...
【专利技术属性】
技术研发人员:李玉容,王佳颖,吴建雄,张嘉琳,
申请(专利权)人:国网电力空间技术有限公司,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。