一种数据处理方法、装置、电子设备及存储介质制造方法及图纸

本发明专利技术公开了一种数据处理方法、装置、电子设备及存储介质，包括：通过多个业务系统将明文数据写入至明文表中，并通过全增量转换平台将明文表中的明文数据，转换为密文表中的密文数据；通过应用系统将密文数据写入至密文表中，并通过全增量转换平台将密文表中的密文数据，反向转换为明文表中的明文数据，以使报表分析系统以及大数据中心对明文数据进行读取；通过应用系统将密文数据写入至密文表中，并通过全增量转换平台将密文表中的密文数据按照预设秘钥转换后，传输至大数据中心和报表分析系统。本发明专利技术实施例的技术方案可以保证数据时效性，降低改造成本以及对数据库性能的影响，提高数据处理结果的可靠性。提高数据处理结果的可靠性。提高数据处理结果的可靠性。

【技术实现步骤摘要】
一种数据处理方法、装置、电子设备及存储介质


[0001]本专利技术涉及计算机
，尤其涉及一种数据处理方法、装置、电子设备及存储介质。

技术介绍

[0002]随着互联网技术的发展，网络中的信息数据已经呈指数级增长的趋势，为了提高数据获取效率，多个业务系统可以通过大数据中心共享数据。通用的数据共享方式可以如图1a所示，应用系统(包括移动端服务和PC端服务)可以将读取到的业务数据写入业务数据库中的明文表。报表分析系统、大数据中心通过只读账号直连业务数据库，然后采用增量抽取的方式读取明文表数据。
[0003]上述数据共享方式中，由于明文表中可能存在敏感数据，由此导致业务数据库存在数据安全风险。为了解决上述问题，现有技术中通常使用分布式定时任务完成数据加密存储以及传输等过程，即基于分布式任务调度平台xxl
‑
job新增加密定时任务，然后通过update_time字段增量读取明文表数据或密文表数据。
[0004]但是，现有技术中存在以下技术问题：数据时效性差，定时任务增量明密文转换、传输频率为15分钟/次，不能满足实时性要求高的场景；影响源数据库性能，定时任务通过select语句从数据库增量查询数据时，会对数据库产生大量突发的查询流量；数据错漏风险高，定时任务通过update_time字段增量查询数据时，极易因应用系统异常插入update_time字段或者定时任务自行维护savepoint异常导致数据错漏；改造成本高，现有技术中需要为每个数据表单独梳理制定checkpoint定制化改造。<br/>
技术实现思路

[0005]本专利技术提供了一种数据处理方法、装置、电子设备及存储介质，可以保证数据时效性，降低改造成本以及对数据库性能的影响，提高数据处理结果的可靠性。
[0006]根据本专利技术的一方面，提供了一种数据处理方法，包括：
[0007]通过多个业务系统将对应的明文数据写入至明文表中，并通过全增量转换平台将所述明文表中的明文数据，转换为密文表中的密文数据；
[0008]其中，所述多个业务系统包括应用系统、报表分析系统以及大数据中心；
[0009]通过应用系统将对应的密文数据写入至密文表中，并通过全增量转换平台将密文表中的密文数据，反向转换为明文表中的明文数据，以使报表分析系统以及大数据中心对所述明文数据进行读取；
[0010]通过应用系统将对应的密文数据写入至密文表中，并通过全增量转换平台将密文表中的密文数据按照预设秘钥转换后，传输至大数据中心和报表分析系统。
[0011]根据本专利技术的另一方面，提供了一种数据处理装置，所述装置包括：
[0012]明文转换模块，用于通过多个业务系统将对应的明文数据写入至明文表中，并通过全增量转换平台将所述明文表中的明文数据，转换为密文表中的密文数据；
[0013]其中，所述多个业务系统包括应用系统、报表分析系统以及大数据中心；
[0014]密文转换模块，用于通过应用系统将对应的密文数据写入至密文表中，并通过全增量转换平台将密文表中的密文数据，反向转换为明文表中的明文数据，以使报表分析系统以及大数据中心对所述明文数据进行读取；
[0015]密文传输模块，用于通过应用系统将对应的密文数据写入至密文表中，并通过全增量转换平台将密文表中的密文数据按照预设秘钥转换后，传输至大数据中心和报表分析系统。
[0016]根据本专利技术的另一方面，提供了一种电子设备，所述电子设备包括：
[0017]至少一个处理器；以及
[0018]与所述至少一个处理器通信连接的存储器；其中，
[0019]所述存储器存储有可被所述至少一个处理器执行的计算机程序，所述计算机程序被所述至少一个处理器执行，以使所述至少一个处理器能够执行本专利技术任一实施例所述的数据处理方法。
[0020]根据本专利技术的另一方面，提供了一种计算机可读存储介质，所述计算机可读存储介质存储有计算机指令，所述计算机指令用于使处理器执行时实现本专利技术任一实施例所述的数据处理方法。
[0021]本专利技术实施例提供的技术方案，通过多个业务系统将明文数据写入至明文表中，并通过全增量转换平台将明文表中的明文数据，转换为密文表中的密文数据，通过应用系统将密文数据写入至密文表中，并通过全增量转换平台将密文表中的密文数据，反向转换为明文表中的明文数据，以使报表分析系统以及大数据中心对明文数据进行读取，通过应用系统将密文数据写入至密文表中，并通过全增量转换平台将密文表中的密文数据按照预设秘钥转换后，传输至大数据中心和报表分析系统的技术手段，可以保证数据时效性，降低改造成本以及对数据库性能的影响，提高数据处理结果的可靠性。
[0022]应当理解，本部分所描述的内容并非旨在标识本专利技术的实施例的关键或重要特征，也不用于限制本专利技术的范围。本专利技术的其它特征将通过以下的说明书而变得容易理解。
附图说明
[0023]为了更清楚地说明本专利技术实施例中的技术方案，下面将对实施例描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本专利技术的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
[0024]图1a是现有技术中业务系统共享业务数据的场景示意图；
[0025]图1b是根据本专利技术实施例提供的一种数据处理方法的流程图；
[0026]图2是根据本专利技术实施例提供的另一种数据处理方法的流程图；
[0027]图3是根据本专利技术实施例提供的另一种数据处理方法的流程图；
[0028]图4是根据本专利技术实施例提供的一种数据处理装置的结构示意图；
[0029]图5是实现本专利技术实施例的数据处理方法的电子设备的结构示意图。
具体实施方式
[0030]为了使本
的人员更好地理解本专利技术方案，下面将结合本专利技术实施例中的附图，对本专利技术实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本专利技术一部分的实施例，而不是全部的实施例。基于本专利技术中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都应当属于本专利技术保护的范围。
[0031]需要说明的是，本专利技术的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象，而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换，以便这里描述的本专利技术的实施例能够以除了在这里图示或描述的那些以外的顺序实施。此外，术语“包括”和“具有”以及他们的任何变形，意图在于覆盖不排他的包含，例如，包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元，而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。
[0032]图1b为本专利技术实施例一提供的一种数据处理方法的流程图，本实施例可适用于对业务系统关联的业务数据进行加密、存储以及传输的情况，该方法可以由数据处理装置来执行，该数据本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种数据处理方法，其特征在于，所述方法包括：通过多个业务系统将对应的明文数据写入至明文表中，并通过全增量转换平台将所述明文表中的明文数据，转换为密文表中的密文数据；其中，所述多个业务系统包括应用系统、报表分析系统以及大数据中心；通过应用系统将对应的密文数据写入至密文表中，并通过全增量转换平台将密文表中的密文数据，反向转换为明文表中的明文数据，以使报表分析系统以及大数据中心对所述明文数据进行读取；通过应用系统将对应的密文数据写入至密文表中，并通过全增量转换平台将密文表中的密文数据按照预设秘钥转换后，传输至大数据中心和报表分析系统。2.根据权利要求1所述的方法，其特征在于，通过全增量转换平台将所述明文表中的明文数据，转换为密文表中的密文数据，包括：通过全增量转换平台，按照多个数据块单元chunk，对所述明文表中的明文数据进行并发读取；通过全增量转换平台，调用预设的加密服务对所述明文数据进行加密处理，得到密文数据，并将所述密文数据写入至密文表中。3.根据权利要求1所述的方法，其特征在于，通过全增量转换平台将密文表中的密文数据，反向转换为明文表中的明文数据，以使报表分析系统以及大数据中心对所述明文数据进行读取，包括：通过全增量转换平台，采用binlog日志对密文表中的密文数据进行增量同步，并调用预设的解密服务对所述密文数据进行解密处理，得到明文数据；通过全增量转换平台，将所述明文数据写入明文表中，并通过报表分析系统以及大数据中心，对所述明文表中的明文数据进行增量读取。4.根据权利要求1所述的方法，其特征在于，通过全增量转换平台将密文表中的密文数据按照预设秘钥转换后，传输至大数据中心和报表分析系统，包括：通过全增量转换平台，采用binlog日志对密文表中的密文数据进行增量同步，并调用预设的解密服务对所述密文数据进行解密处理，得到明文数据；通过全增量转换平台，按照预设秘钥将所述明文数据，转换为与大数据中心和报表分析系统分别匹配的密文数据，并将所述密文数据分别传输至大数据中心和报表分析系统。5.根据权利要求4所述的方法，其特征在于，通过全增量转换平台，按照预设秘钥将所述明文数据，转换为与大数据中心和报表分析系统分别匹配的密文数据，并将所述密文数据分别传输至大数据中心和报表分析系统，包括：通过全增量转换平台，使用报表分析系统对应的秘钥，对所...

【专利技术属性】
技术研发人员：王川，郑俊，盛志超，李璐，何晨，徐彦廷，
申请(专利权)人：数字广东网络建设有限公司，
类型：发明
国别省市：