数据处理方法、装置、电子设备和存储介质制造方法及图纸

技术编号:29705321 阅读:19 留言:0更新日期:2021-08-17 14:34
本申请提供一种数据处理方法、装置、电子设备和存储介质,该方法包括:获取目标数据,目标数据来自于服务器集群的中心服务器或终端设备,在目标数据中获取与业务类型相关的待处理数据;采用业务类型对应的数据异常处理流程,处理待处理数据,得到目标数据是否异常的结果;输出结果。目标服务器中预先设置有不同业务类型对应的数据异常处理流程,进而目标服务器可以基于目标数据的业务类型,采用对应的数据异常处理流程处理待处理数据,得到目标数据是否异常的结果。无需在多个设备中部署多个处理算子,节约了设备资源,提高了数据处理效率,另,服务器可以针对不同业务类型的数据进行异常识别,可以提高数据处理效率。

【技术实现步骤摘要】
数据处理方法、装置、电子设备和存储介质
本申请涉及数据处理
,尤其涉及一种数据处理方法、装置、电子设备和存储介质。
技术介绍
手机转账、支付,柜台存取款等,是用户生活中常见的交易。相应的,服务器中可以存储用户每笔转账、支付、存取款对应的表单,表单上可以记录用户交易的时间、账号等。服务器需要对其中存储的海量的交易数据进行分析和管控,以及时管控异常数据。目前,针对一种类型的交易数据,工作人员需要开发和编写针对该类型的交易数据的异常检测流程,异常检测流程中包括多个处理算子,每个处理算子部署在不同的设备中。在处理该类型的交易数据时,需要按照处理算子的顺序依次在不同的设备中,采用对应的处理算子处理该交易数据,最后得到该交易数据是否异常的结果。目前交易数据处理方法的开发周期长,且数据处理的效率低。
技术实现思路
本申请提供一种数据处理方法、装置、电子设备和存储介质,可以提高数据的处理效率。本申请的第一方面提供一种数据处理方法,应用于服务器集群中的目标服务器,该方法包括:获取目标数据,所述目标数据来自于所述服务器集群的中心服务器或终端设备;根据所述目标数据的业务类型,在所述目标数据中获取与所述业务类型相关的待处理数据;采用所述业务类型对应的数据异常处理流程,处理所述待处理数据,得到所述目标数据是否异常的结果;输出所述结果。在一种可能的实现方式中,业务类型与待处理数据的属性具有第一映射关系,所述根据所述目标数据的业务类型,在所述目标数据中获取与所述业务类型相关的待处理数据,包括:根据所述目标数据的业务类型,以及所述第一映射关系,获取目标属性;在所述目标数据中,将所述目标属性对应的数据作为所述待处理数据。在一种可能的实现方式中,所述业务类型对应的数据异常处理流程包括:获取所述目标数据之前的预设时间段内与所述目标数据关联的历史数据,所述目标数据和所述历史数据关联同一用户;结合所述历史数据的业务类型,识别所述待处理数据是否落入异常数据的范围。在一种可能的实现方式中,所述目标服务器中包括:至少一个业务类型的标识和数据异常处理流程的标识的第二映射关系,所述方法还包括:根据所述目标数据的业务类型,以及所述第二映射关系,获取所述业务类型对应的数据异常处理流程。在一种可能的实现方式中,若所述目标数据来自预设设备,所述目标数据包括至少一个表单,所述获取目标数据之后,还包括:根据每个表单的业务类型,删除业务类型为预设业务类型的表单。在一种可能的实现方式中,所述业务类型对应的数据异常处理流程为处理函数,所述目标服务器中包括:第一容器,所述第一容器中设置有第二容器,所述第二容器中包含所述处理函数;所述获取目标数据之后,还包括:将所述目标数据加载至任务队列。所述根据所述目标数据的业务类型,以及所述第一映射关系,获取目标属性之前,包括:在第一容器中,读取所述任务队列中的所述目标数据;在数据库中读取所述第一映射关系。所述采用所述业务类型对应的数据异常处理流程,处理所述待处理数据之前,包括:在所述第二容器中调用所述处理函数。所述采用所述业务类型对应的数据异常处理流程,处理所述待处理数据,包括:在所述第二容器中,运行所述处理函数,以处理所述待处理数据。在一种可能的实现方式中,所述第一容器为flink容器,所述第二容器为springboot容器,所述数据库为redis数据库,所述处理函数为bean函数;所述在数据库中读取所述第一映射关系,包括:通过所述flink容器访问所述数据库的访问端口,以读取所述第一映射关系。在一种可能的实现方式中,所述方法还包括:在所述flink容器中加载所述springboot容器;调用所述flink容器中flink函数的方法,加载所述bean函数至所述springboot容器。本申请的第二方面提供一种数据处理装置,包括:数据解析模块,用于获取目标数据,所述目标数据来自于所述服务器集群的中心服务器或终端设备。规则分析模块,用于根据目标数据的业务类型,在目标数据中获取与业务类型相关的待处理数据;采用业务类型对应的数据异常处理流程,处理待处理数据,得到目标数据是否异常的结果;输出结果。在一种可能的实现方式中,业务类型与待处理数据的属性具有第一映射关系。规则分析模块,具体用于根据目标数据的业务类型,以及第一映射关系,获取目标属性;在目标数据中,将目标属性对应的数据作为待处理数据。在一种可能的实现方式中,业务类型对应的数据异常处理流程包括:获取目标数据之前的预设时间段内与目标数据关联的历史数据,目标数据和历史数据关联同一用户;结合历史数据的业务类型,识别待处理数据是否落入异常数据的范围。在一种可能的实现方式中,目标服务器中包括:至少一个业务类型的标识和数据异常处理流程的标识的第二映射关系。规则分析模块,还用于根据目标数据的业务类型,以及第二映射关系,获取业务类型对应的数据异常处理流程。在一种可能的实现方式中,若目标数据来自预设设备,目标数据包括至少一个表单。规则分析模块,还用于根据每个表单的业务类型,删除业务类型为预设业务类型的表单。在一种可能的实现方式中,业务类型对应的数据异常处理流程为处理函数,目标服务器中包括:第一容器,第一容器中设置有第二容器,第二容器中包含处理函数。规则分析模块,还用于将目标数据加载至任务队列;在第一容器中,读取任务队列中的目标数据;在数据库中读取第一映射关系;在第二容器中调用处理函数。规则分析模块,具体用于在第二容器中,运行处理函数,以处理待处理数据。在一种可能的实现方式中,第一容器为flink容器,第二容器为springboot容器,数据库为redis数据库,处理函数为bean函数。规则分析模块,具体用于通过所述flink容器访问数据库的访问端口,以读取第一映射关系。在一种可能的实现方式中,规则分析模块,还用于在flink容器中加载springboot容器,以及调用flink容器中flink函数的方法,加载bean函数至springboot容器。本申请的第三方面提供一种电子设备,包括:至少一个处理器和存储器;所述存储器存储计算机执行指令;所述至少一个处理器执行所述存储器存储的计算机执行指令,使得所述电子设备执行上述数据处理方法。本申请的第四方面提供一种计算机可读存储介质,所述计算机可读存储介质上存储有计算机执行指令,当所述计算机执行指令被处理器执行时,实现上述数据处理方法。本申请的第五方面提供一种包含指令的计算机程序产品,当其在计算机上运行时,使得计算机执行上述第一方面或第一方面的各种可能的实现方式中的方法。本申请提供一种数据处理方法、装置、电子设备和存储介质,目标服务器中可以预先设置有不同业务类型对应的数据异常处理流程,进而在目标服务器接收到来自服务器集群的中心服务器或终端设备的目标数据时,可以基于目标数据的业务类型,采用对应的数据异常处理流程处理待处理数据,以得到该目标数据是否异常的结果。一方面,无需在本文档来自技高网...

【技术保护点】
1.一种数据处理方法,其特征在于,应用于服务器集群中的目标服务器,包括:/n获取目标数据,所述目标数据来自于所述服务器集群的中心服务器或终端设备;/n根据所述目标数据的业务类型,在所述目标数据中获取与所述业务类型相关的待处理数据;/n采用所述业务类型对应的数据异常处理流程,处理所述待处理数据,得到所述目标数据是否异常的结果;/n输出所述结果。/n

【技术特征摘要】
1.一种数据处理方法,其特征在于,应用于服务器集群中的目标服务器,包括:
获取目标数据,所述目标数据来自于所述服务器集群的中心服务器或终端设备;
根据所述目标数据的业务类型,在所述目标数据中获取与所述业务类型相关的待处理数据;
采用所述业务类型对应的数据异常处理流程,处理所述待处理数据,得到所述目标数据是否异常的结果;
输出所述结果。


2.根据权利要求1所述的方法,其特征在于,业务类型与待处理数据的属性具有第一映射关系,所述根据所述目标数据的业务类型,在所述目标数据中获取与所述业务类型相关的待处理数据,包括:
根据所述目标数据的业务类型,以及所述第一映射关系,获取目标属性;
在所述目标数据中,将所述目标属性对应的数据作为所述待处理数据。


3.根据权利要求1或2所述的方法,其特征在于,所述业务类型对应的数据异常处理流程包括:
获取所述目标数据之前的预设时间段内与所述目标数据关联的历史数据,所述目标数据和所述历史数据关联同一用户;
结合所述历史数据的业务类型,识别所述待处理数据是否落入异常数据的范围。


4.根据权利要求1-3中任一项所述的方法,其特征在于,所述目标服务器中包括:至少一个业务类型的标识和数据异常处理流程的标识的第二映射关系,所述方法还包括:
根据所述目标数据的业务类型,以及所述第二映射关系,获取所述业务类型对应的数据异常处理流程。


5.根据权利要求1-4中任一项所述的方法,其特征在于,若所述目标数据来自预设设备,所述目标数据包括至少一个表单,所述获取目标数据之后,还包括:
根据每个表单的业务类型,删除业务类型为预设业务类型的表单。


6.根据权利要求2所述的方法,其特征在于,所述业务类型对应的数据异常处理流程为处理函数,所述目标服务器中包括:第一容器,所述第一容器中设置有第二容器,所述第二容器中包含所述处理函数;所述获取目标数据之后,还包括:
将所述目标数据加载至任务队列;
所述根据所述目标数据的业务类型,以及所述第一映射关系,获取目标属性之前,包括:
在第一容器...

【专利技术属性】
技术研发人员:郭清琦
申请(专利权)人:中国农业银行股份有限公司
类型:发明
国别省市:北京;11

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1