数据质量评估方法、装置、计算机设备和存储介质制造方法及图纸

技术编号:23851982 阅读:50 留言:0更新日期:2020-04-18 09:07
本申请涉及一种数据质量评估方法、装置、计算机设备和存储介质。所述方法包括:服务器获取数据集,该数据集包括多个数据行,该数据行包括多个字段值;对于每个该数据行,服务器根据该数据行中各个字段值的完整性、精确性、正确性、唯一性以及时效性对该数据行的数据质量进行评估,得到该数据行的评估结果;服务器根据每个该数据行的评估结果对该数据集的数据质量进行评估,得到该数据集的评估结果。采用本方法能够提高对数据质量评估的准确性。

Data quality assessment methods, devices, computer equipment and storage media

【技术实现步骤摘要】
数据质量评估方法、装置、计算机设备和存储介质
本申请涉及计算机
,特别是涉及一种数据质量评估方法、装置、计算机设备和存储介质。
技术介绍
随着计算机技术的发展,大数据的应用也越来越广泛,而大数据的应用必然需要大量的数据支持,数据质量的好坏可以直接影响着大数据的应用效果,因此,对于数据质量的评估成为了研究的热点。相关技术中,将数据存储于数据库中,当需要对数据质量进行评估时,从数据库中调取需要评估的数据,该数据可以是多个字段值,对这多个字段值进行评估,进而,得到字段值的评估结果。然而,只对每个字段值进行评估,无法得到综合全面的评估结果,进而,降低了数据质量评估结果的准确性。
技术实现思路
基于此,有必要针对上述技术问题,提供一种能够提高数据质量评估的准确性的数据质量评估方法、装置、计算机设备和存储介质。第一方面,提供了一种数据质量评估方法,该方法包括:获取数据集,该数据集包括多个数据行,该数据行包括多个字段值;对于每个数据行,根据该数据行中各个字段值的完整性、精确性、正确性、本文档来自技高网...

【技术保护点】
1.一种数据质量评估方法,其特征在于,所述方法包括:/n获取数据集,所述数据集包括多个数据行,所述数据行包括多个字段值;/n对于每个所述数据行,根据所述数据行中各个字段值的完整性、精确性、正确性、唯一性以及时效性对所述数据行的数据质量进行评估,得到所述数据行的评估结果,其中,字段值的完整性用于表征字段值是否缺失,字段值的精确性用于表征字段值与预设字段值之间的接近程度,字段值的正确性用于表征字段值遵循预定的语法规则的程度,字段值的唯一性用于表征字段值在所在数据行中是否唯一,字段值的时效性用于表征字段值从产生到使用的时长;/n根据每个所述数据行的评估结果对所述数据集的数据质量进行评估,得到所述数据...

【技术特征摘要】
1.一种数据质量评估方法,其特征在于,所述方法包括:
获取数据集,所述数据集包括多个数据行,所述数据行包括多个字段值;
对于每个所述数据行,根据所述数据行中各个字段值的完整性、精确性、正确性、唯一性以及时效性对所述数据行的数据质量进行评估,得到所述数据行的评估结果,其中,字段值的完整性用于表征字段值是否缺失,字段值的精确性用于表征字段值与预设字段值之间的接近程度,字段值的正确性用于表征字段值遵循预定的语法规则的程度,字段值的唯一性用于表征字段值在所在数据行中是否唯一,字段值的时效性用于表征字段值从产生到使用的时长;
根据每个所述数据行的评估结果对所述数据集的数据质量进行评估,得到所述数据集的评估结果。


2.根据权利要求1所述的方法,其特征在于,所述根据所述数据行中各个字段值的完整性、精确性、正确性、唯一性以及时效性对所述数据行的数据质量进行评估,得到所述数据行的评估结果,包括:
根据所述数据行中各个字段值的完整性对所述数据行的完整性进行评估,得到完整性评估结果;
根据所述数据行中各个字段值的精确性对所述数据行的精确性进行评估,得到精确性评估结果;
根据所述数据行中各个字段值的正确性对所述数据行的正确性进行评估,得到正确性评估结果;
根据所述数据行中各个字段值的唯一性对所述数据行的唯一性进行评估,得到唯一性评估结果;
根据所述数据行中各个字段值的时效性对所述数据行的时效性进行评估,得到时效性评估结果;
根据所述完整性评估结果、所述精确性评估结果、所述正确性评估结果、所述唯一性评估结果以及所述时效性评估结果,得到所述数据行的评估结果。


3.根据权利要求2所述的方法,其特征在于,所述根据所述数据行中各个字段值的完整性对所述数据行的完整性进行评估,得到完整性评估结果,包括:
获取所述数据行中各个字段值对应的完整性分值,所述完整性分值用于指示对应的字段值是否缺失;
将所述数据行中各个字段值对应的完整性分值进行相加,得到完整性总分值,将所述完整性总分值作为所述完整性评估结果。


4.根据权利要求2所述的方法,其特征在于,所述根据所述数据行中各个字段值的精确性对所述数据行的精确性进行评估,得到精确性评估结果,包括:
获取所述数据行中各个字段值对应的精确性分值,所述精确性分值用于表征对应的字段值与预设字段值之间的接近程度;
将所述数据行中各个字段值对应的精确性分值进行相加,得到精确性总分值,将所述精确性总分值作为所述精确性评估结果。


5.根据权利要求2所述的方法,其特征在于,所述根据所述数据行中各个字段值的正确性对所述数据行的正确性进行评估,得到正确性评估结果,包括:
获取所述数据行中各个字段值对应的正确性分值,所述正确性分值用于指示对应的字段值是否遵循预定的语法规则;
将所述数据行中各个字段值对应的正确性分值进行相加,得到正确性总分值,将所述正确性总分值作为所述正确性评估结果。

【专利技术属性】
技术研发人员:韩超李勇波卢子忱
申请(专利权)人:东莞中国科学院云计算产业技术创新与育成中心
类型:发明
国别省市:广东;44

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1