本发明专利技术公开了一种多源数据融合的数据处理方法，包括：分别确定各业务系统对应的主数据集；针对每一主数据集，对该主数据集中各数据项的候选数据明细进行一致性比对，以从各数据项的候选数据明细中确定各数据项在该主数据集中的同源相同数据和同源差异数据；分别确定上述同源差异数据在各主数据集中的可信度参数，并根据可信度参数和可信度计算函数，分别计算同源差异数据在各主数据集中的可信度评分；根据上述可信度评分，从同源差异数据中确定该主数据集的目标数据明细，并根据该主数据集中的目标数据明细和同源相同数据，确定该主数据集对应的数据实例。可以实现对各个业务系统的业务数据所对应的主数据集进行自动化的数据研判。的数据研判。的数据研判。
【技术实现步骤摘要】
多源数据融合的数据处理方法、装置、设备和存储介质
[0001]本专利技术实施例涉及数据处理领域，尤其涉及一种多源数据融合的数据处理方法、装置、设备和存储介质。
技术介绍
[0002]目前，在对多个业务系统的接入数据存入数据库的过程中，一个关键问题是对各业务系统的接入系统中提取的数据字段构成的主数据集进行数据融合，从多个业务系统的接入数据中提取主数据集的各数据项的明细数据时，由于各业务系统具有独立性，因此需要对各业务系统的接入数据对应的主数据集进行数据分析研判，以对主数据集中的数据进行校正和标准化处理，以便后续工作人员对各业务系统对应的主数据集进行数据分析，通常由工作人员对主数据集进行数据分析研判和校正，导致多源数据融合效率低下。因此，如何实现多源数据融合的自动化处理，降低多源数据融合过程中的人工成本，同时保证多源数据融合过程中对主数据集研判的准确性，是需要解决的问题。
技术实现思路
[0003]本专利技术提供了一种多源数据融合的数据处理方法、装置、设备和存储介质，可以实现多源数据融合的自动化处理，降低多源数据融合过程中的人工成本，同时保证多源数据融合过程中对主数据集研判的准确性。
[0004]根据本专利技术的一方面，提供了一种多源数据融合的数据处理方法，包括：
[0005]分别确定各业务系统对应的主数据集；
[0006]针对每一主数据集，对该主数据集中至少两个数据项的候选数据明细进行一致性比对，并根据一致性比对结果从所述至少两个数据项的候选数据明细中确定所述至少两个数据项在该主数据集中的同源相同数据和同源差异数据；
[0007]分别确定该主数据集中的同源差异数据在各主数据集中的可信度参数，并根据所述可信度参数和可信度计算函数，分别计算同源差异数据在各主数据集中的可信度评分；
[0008]根据该主数据集中的同源差异数据在各主数据集中的可信度评分，从同源差异数据中确定该主数据集的目标数据明细，并根据该主数据集中的目标数据明细和所述至少两个数据项在该主数据集中同源相同数据，确定该主数据集对应的数据实例。
[0009]根据本专利技术的另一方面，提供了一种多源数据融合的数据处理装置，该装置包括：
[0010]主数据集确定模块，用于分别确定各业务系统对应的主数据集；
[0011]同源差异数据确定模块，用于针对每一主数据集，对该主数据集中至少两个数据项的候选数据明细进行一致性比对，并根据一致性比对结果从所述至少两个数据项的候选数据明细中确定所述至少两个数据项在该主数据集中的同源相同数据和同源差异数据；
[0012]可信度评分确定模块，用于分别确定该主数据集中的同源差异数据在各主数据集中的可信度参数，并根据所述可信度参数和可信度计算函数，分别计算同源差异数据在各主数据集中的可信度评分；
[0013]数据实例确定模块，用于根据该主数据集中的同源差异数据在各主数据集中的可信度评分，从同源差异数据中确定该主数据集的目标数据明细，并根据该主数据集中的目标数据明细和所述至少两个数据项在该主数据集中同源相同数据，确定该主数据集对应的数据实例。
[0014]根据本专利技术的另一方面，提供了一种电子设备，所述电子设备包括：
[0015]至少一个处理器；以及
[0016]与所述至少一个处理器通信连接的存储器；其中，
[0017]所述存储器存储有可被所述至少一个处理器执行的计算机程序，所述计算机程序被所述至少一个处理器执行，以使所述至少一个处理器能够执行本专利技术任一实施例所述的多源数据融合的数据处理方法。
[0018]根据本专利技术的另一方面，提供了一种计算机可读存储介质，所述计算机可读存储介质存储有计算机指令，所述计算机指令用于使处理器执行时实现本专利技术任一实施例所述的多源数据融合的数据处理方法。
[0019]本专利技术实施例的技术方案，分别确定各业务系统对应的主数据集；针对每一主数据集，对该主数据集中至少两个数据项的候选数据明细进行一致性比对，并根据一致性比对结果从至少两个数据项的候选数据明细中确定至少两个数据项在该主数据集中的同源相同数据和同源差异数据；分别确定该主数据集中的同源差异数据在各主数据集中的可信度参数，并根据可信度参数和可信度计算函数，分别计算同源差异数据在各主数据集中的可信度评分；根据该主数据集中的同源差异数据在各主数据集中的可信度评分，从同源差异数据中确定该主数据集的目标数据明细，并根据该主数据集中的目标数据明细和至少两个数据项在该主数据集中同源相同数据，确定该主数据集对应的数据实例。解决了由于各业务系统具有独立性，且各个业务系统的主数据在数据项结构设计、数据项的数据明细取值范围和数据结构等各不相同，同时还存在人工输入错误或处理过程中发生的错误，不同时间获取的数据项的数据明细存在差异，导致从多各业务系统的接入数据中提取的主数据集往往存在同一数据项在某一时间段内获取多个数据明细时，存在数据明细不一致的问题。上述方案，实现了在从多个独立的业务系统中获得业务数据时，对各个业务系统的业务数据所对应的主数据集进行自动化的数据研判，以获得各主数据集对应的数据实例，提高了对主数据集进行数据研判的效率，节约了人工成本，同时保证了数据实例的准确性。
[0020]应当理解，本部分所描述的内容并非旨在标识本专利技术的实施例的关键或重要特征，也不用于限制本专利技术的范围。本专利技术的其它特征将通过以下的说明书而变得容易理解。
附图说明
[0021]为了更清楚地说明本专利技术实施例中的技术方案，下面将对实施例描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本专利技术的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
[0022]图1为本专利技术实施例一提供的一种多源数据融合的数据处理方法的流程图；
[0023]图2为本专利技术实施例二提供的一种多源数据融合的数据处理方法的流程图；
[0024]图3为本专利技术实施例三提供的一种多源数据融合的数据处理方法的流程图；
[0025]图4为本专利技术实施例四提供的一种多源数据融合的数据处理装置的结构示意图；
[0026]图5为本专利技术实施例五提供的一种电子设备的结构示意图。
具体实施方式
[0027]为了使本
的人员更好地理解本专利技术方案，下面将结合本专利技术实施例中的附图，对本专利技术实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本专利技术一部分的实施例，而不是全部的实施例。基于本专利技术中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都应当属于本专利技术保护的范围。
[0028]需要说明的是，本专利技术的说明书和权利要求书及上述附图中的术语“候选”和“目标”等是用于区别类似的对象，而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换，以便这里描述的本专利技术的实施例能够以除了在这里图示或描述的那些以外的顺序实施。此外，术语“包括”和“等”以及他们的任何变形本文档来自技高网...
【技术保护点】
【技术特征摘要】
1.一种多源数据融合的数据处理方法，其特征在于，包括：分别确定各业务系统对应的主数据集；针对每一主数据集，对该主数据集中至少两个数据项的候选数据明细进行一致性比对，并根据一致性比对结果从所述至少两个数据项的候选数据明细中确定所述至少两个数据项在该主数据集中的同源相同数据和同源差异数据；分别确定该主数据集中的同源差异数据在各主数据集中的可信度参数，并根据所述可信度参数和可信度计算函数，分别计算同源差异数据在各主数据集中的可信度评分；根据该主数据集中的同源差异数据在各主数据集中的可信度评分，从同源差异数据中确定该主数据集的目标数据明细，并根据该主数据集中的目标数据明细和所述至少两个数据项在该主数据集中同源相同数据，确定该主数据集对应的数据实例。2.根据权利要求1所述的方法，其特征在于，分别确定该主数据集中的同源差异数据在各主数据集中的可信度参数，并根据所述可信度参数和可信度计算函数，分别计算同源差异数据在各主数据集中的可信度评分，包括：确定该主数据集中不同的同源差异数据之间是否具有依赖关系，并将具有依赖关系的同源差异数据进行组合，确定该主数据集的组合差异数据，且将不具有依赖关系的同源差异数据作为独立差异数据；确定该主数据集中的组合差异数据在各主数据集中的可信度参数，以及该主数据集中的独立差异数据在各主数据集中的可信度参数；根据可信度计算函数，组合差异数据在各主数据集中的可信度参数，以及独立差异数据在各主数据集中的可信度参数，分别确定该主数据集中的组合差异数据和独立差异数据在各主数据集中的可信度评分，并将该主数据集中的组合差异数据和独立差异数据在各主数据集中的可信度评分作为同源差异数据在各主数据集中的可信度评分。3.根据权利要求1所述的方法，其特征在于，根据该主数据集中的同源差异数据在各主数据集中的可信度评分，从同源差异数据中确定该主数据集的目标数据明细，并根据该主数据集中的目标数据明细和所述至少两个数据项在该主数据集中同源相同数据，确定该主数据集对应的数据实例，包括：根据该主数据集中的同源差异数据在各主数据集中的可信度评分，以及各主数据集的权重，确定该主数据集中的同源差异数据的可靠性值；确定所述可靠性值中的最大值对应的同源差异数据为该主数据集中的目标数据明细，并整合该主数据集中的目标数据明细和同源相同数据，确定该主数据集对应的数据实例。4.根据权利要求3所述的方法，其特征在于，根据该主数据集中的同源差异数据在各主数据集中的可信度评分，以及各主数据集的权重，确定该主数据集中的同源差异数据的可靠性值，包括：计算该主数据集中的同源差异数据的在各主数据集中的可信度评分和各主数据集的权重之间的评分与权重乘积；将所述评分与权重乘积相加，确定该主数据集中的同源差异数据的可靠性值。5.根据权利要求1所述的方法，其特征在于，分别确定各业...
【专利技术属性】
技术研发人员：由磊，何珍，魏巍，
申请(专利权)人：玉林市公安局乌鲁木齐市公安局，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。