一种数据处理方法、装置、系统及存储介质制造方法及图纸

技术编号:30961478 阅读:16 留言:0更新日期:2021-11-25 20:25
本说明书实施例公开了一种数据处理方法、装置、系统及存储介质。所述方法包括:获取待处理数据及其标识数据,所述待处理数据的标识数据至少包括所述待处理数据的独立识别编码和关联识别编码;至少基于数据处理规则以及所述待处理数据的独立识别编码和关联识别编码,确定所述待处理数据的至少一个关联数据集;对所述待处理数据以及所述至少一个关联数据集的数据进行处理。所述方法可以基于统一管理的数据处理规则,在多级数据校验中确定待处理数据的关联数据,并实现待处理数据以及关联数据的协同处理。协同处理。协同处理。

【技术实现步骤摘要】
一种数据处理方法、装置、系统及存储介质


[0001]本说明书涉及计算机
,特别涉及一种数据处理方法、装置、系统及存储介质。

技术介绍

[0002]在现今的大数据时代,单一的一条/一份数据早已是与其他数据具有了关联性。在数据管理过程中,对于某一份数据的处理会对其关联数据带来影响。例如,在删除数据时,为了保持数据一致性和完整性,该数据的关联数据也需要一并处理。目前,如何高效且便利地对关联数据进行处理成为有待解决的问题。

技术实现思路

[0003]为解决上述问题,本说明书实施例之一提供一种数据处理方法,所述方法包括:获取待处理数据及其标识数据,所述待处理数据的标识数据至少包括所述待处理数据的独立识别编码和关联识别编码;至少基于数据处理规则以及所述待处理数据的独立识别编码和关联识别编码,确定所述待处理数据的至少一个关联数据集;对所述待处理数据以及所述至少一个关联数据集的数据进行处理。
[0004]本说明书实施例之一提供一种数据处理装置,所述装置包括获取模块、确定模块以及处理模块。所述获取模块用于获取待处理数据及其标识数据,所述待处理数据的标识数据至少包括所述待处理数据的独立识别编码和关联识别编码。所述确定模块用于至少基于数据处理规则以及所述待处理数据的独立识别编码和关联识别编码,确定所述待处理数据的至少一个关联数据集。所述处理模块用于对所述待处理数据以及所述至少一个关联数据集的数据进行处理。
[0005]本说明书实施例之一提供一种数据处理系统,所述系统包括存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序。所述计算机程序被所述处理器执行时实现如所述的方法的步骤。
[0006]本说明书实施例之一提供一种计算机可读存储介质,所述存储介质上存储计算机程序,所述计算机程序被处理器执行时实现如上所述的方法的步骤。
[0007]本说明书所披露的技术方案,通过定义数据处理规则,实现了数据的提取,同时便于统一的维护。
[0008]附加的特征将在下面的描述中部分地阐述,并且对于本领域技术人员来说,通过查阅以下内容和附图将变得显而易见,或者可以通过实例的产生或操作来了解。本专利技术的特征可以通过实践或使用以下详细实例中阐述的方法、工具和组合的各个方面来实现和获得。
附图说明
[0009]本说明书将以示例性实施例的方式进一步说明,这些示例性实施例将通过附图进
行详细描述。这些实施例并非限制性的,在这些实施例中,相同的编号表示相同的结构,其中:
[0010]图1是根据本说明书一些实施例所示的数据处理系统的应用场景示意图;
[0011]图2是根据本说明书一些实施例所示的处理设备的示例性框图;
[0012]图3是根据本说明书一些实施例所示的一种数据处理方法的示例性流程图;
[0013]图4是根据本说明书一些实施例所示的一种数据查验轮次的示例性流程图;
[0014]图5是根据本说明书一些实施例所示的数据处理系统的示例性模块图。
[0015]具体实施方式
[0016]为了更清楚地说明本说明书实施例的技术方案,下面将对实施例描述中所需要使用的附图作简单的介绍。显而易见地,下面描述中的附图仅仅是本说明书的一些示例或实施例,对于本领域的普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图将本说明书应用于其它类似情景。除非从语言环境中显而易见或另做说明,图中相同标号代表相同结构或操作。
[0017]应当理解,本文使用的“系统”、“装置”、“单元”和/或“模组”是用于区分不同级别的不同组件、元件、部件、部分或装配的一种方法。然而,如果其他词语可实现相同的目的,则可通过其他表达来替换所述词语。
[0018]如本说明书和权利要求书中所示,除非上下文明确提示例外情形,“一”、“一个”、“一种”和/或“该”等词并非特指单数,也可包括复数。一般说来,术语“包括”与“包含”仅提示包括已明确标识的步骤和元素,而这些步骤和元素不构成一个排它性的罗列,方法或者设备也可能包含其它的步骤或元素。
[0019]本说明书中使用了流程图用来说明根据本说明书的实施例的系统所执行的操作。应当理解的是,前面或后面操作不一定按照顺序来精确地执行。相反,可以按照倒序或同时处理各个步骤。同时,也可以将其他操作添加到这些过程中,或从这些过程移除某一步或数步操作。
[0020]目前,对于数据的管理一般通过数据库语言的编写或使用程序代码的方式实现。例如,以MySQL数据库为例,如果在删除某一数据时需要同时删除与该数据关联的数据,可以通过在外键指定ONDELETECASDADE或者定义触发器监听数据的删除事件来实现级联删除。又例如,可以编写引用校验代码和连带删除代码,以通过程序代码的方式实现在删除某一数据时连带删除与该数据关联的数据。
[0021]但是,通过数据库语言的编写或使用程序代码的方式实现数据的管理存在一些缺点。例如,编写数据库语言通过外键或触发器实现数据的处理(例如,增加、删除、修改等)时会触发其他逻辑计算,增加额外的计算量,将导致数据库的数据处理操作的效能变差。另外,外键或触发器只会在单台服务器上起作用,当数据量增大需要多台服务器支撑时,很难将包含大数据量的数据库进行拆分以分配到多台服务器上。再者,在数据库的开发、维护以及部署阶段时,除了部署程序源代码外还涉及到数据库脚本的编写。测试时为了快速创建、修改、以及删除模拟测试数据,开发人员需要很熟悉多个数据库表之间的关系。这增加了开发维护和测试工作的难度。又例如,当使用程序代码实现数据管理时,在开发阶段对开发人
员要求高。开发时关联处理逻辑需要分散到各个部分。当引用关系很多时,容易漏掉引用逻辑。同时,在系统上线后,当数据间的引用关系有变动时,需要修改代码重新部署。
[0022]基于此,本说明书一些实施例中,提出一种基于规则的数据处理方法,可以通过定义数据处理规则实现数据的统一处理。以下是对该方法的详细说明。
[0023]图1是根据本说明书的一些实施例所示的示例性推荐数据处理系统的示例性示意图。在一些实施例中,该数据处理系统可以用于执行对数据的处理操作,例如,数据删除、数据增加、数据修改等。如图1所示,数据处理系统100可以包处理设备110、存储设备120、终端130和网络140。
[0024]处理设备110可用于执行在本说明书中揭示的一个或者多个功能。例如,处理设备110 可以用于获取待处理数据及其标识数据。又例如,处理设备110可以根据待处理数据的标识数据在一次或以上数据查验轮次中确定所述待处理数据的关联数据集。还例如,处理设备110 可以基于数据处理规则,处理所述待处理数据以及所述关联数据集以获取数据处理结果。在一些实施例中,处理设备110可以是独立的服务器或者服务器组。该服务器组可以是集中式的或者分布式的(如:处理设备110可以是分布系统)。在一些实施例中,处理设备110可直接与存储设备120以及终端130直接连接以访问存储于其中的信息和/或资料本文档来自技高网
...

【技术保护点】

【技术特征摘要】
1.一种数据处理方法,其特征在于,包括:获取待处理数据及其标识数据,所述待处理数据的标识数据至少包括所述待处理数据的独立识别编码和关联识别编码;至少基于数据处理规则以及所述待处理数据的独立识别编码和关联识别编码,确定所述待处理数据的至少一个关联数据集;对所述待处理数据以及所述至少一个关联数据集进行处理。2.根据权利要求1所述的方法,其特征在于,所述确定所述待处理数据的至少一个关联数据集,包括:获取所述数据处理规则对应的至少一个数据检索条件;基于所述至少一个数据检索条件以及所述待处理数据的独立识别编码和关联识别编码,在一次或以上数据查验轮次中确定所述待处理数据的至少一个关联数据集。3.根据权利要求1所述的方法,其特征在于,一次数据查验轮次包括:获取一份或以上候选数据及每份候选数据的标识数据,所述候选数据的标识数据至少包括所述候选数据的独立识别编码以及所述候选数据的关联识别编码;基于所述数据检索条件以及当前数据查验轮次的至少一份对象数据的标识数据以及所述一份或以上候选数据的标识数据,从所述对象数据以及所述一份或以上候选数据中确定至少一份目标数据;其中,所述对象数据的标识数据至少包括所述对象数据的独立识别编码以及所述对象数据的关联识别编码;当所述当前数据查验轮次为首轮数据查验轮次,所述对象数据为所述待处理数据;当所述数据查验轮次为非首轮数据查验轮次,所述对象数据为所述当前数据查验轮次之前的在先数据查验轮次中确定的至少一份目标数据;指定所述至少一份目标数据属于所述数据检索条件对应的关联数据集;将所述至少一个关联数据集中的至少一份目标数据作为对象数据以执行下一轮数据查验轮次;或若某一份目标数据已存在于某一关联数据集中,终止在下一轮数据查验轮次中将该份目标数据作为对象数据。4.根据权利要求3所述的方法,其特征在于,所述确定至少一份目标数据,包括:分别比较一份对象数据的标识数据与所述一份或以上候选数据各自的标识数据,获取对应于每一份候选数据的比较结果;确定所述比较结果是否匹配于所述数据检索条件;若匹配,指定所述比较结果对应的对象数据和/或候选数据为所述目标数据。5.根据权利要求4所述的方法,其特征在于,所述数据处理规...

【专利技术属性】
技术研发人员:田大帅
申请(专利权)人:保定三叶虫网络科技有限公司
类型:发明
国别省市:

相关技术
    暂无相关专利
网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1